Vejen har navn efter Sundby Kirkegård, som den oprindeligt førte hen til.
Kirkegårdsvej blev formentlig anlagt omkring 1872, samtidig med at kirkegården åbnede. Vejen udgik fra Englandsvej og endte blindt lidt syd for Kirkegården.
I den nordlige del af Kirkegårdsvej ligger stadig enkelte huse, som stammer fra 1880’erne.
Luthersk Mission havde missionshus på Kirkegårdsvej 21 (herover). Det blev indviet i 1915.
På hjørnet af Lillegrund lå firmaet Waldorfs Papirindustri (herover).
Et stykke af kirkegården ud mod Kirkegårdsvej er
Flere steder på Kirkegårdsvej er der udført gavlmalerier. F.eks. har den ukrainske kunstner Nicholas Koshkosh lavet maleriet på Kirkegårdsvej 12 (herunder).
