Vejen har sit navn efter Kjeldsgård, der oprindeligt lå i Valby landsby, hvor den lå på hjørnet af Skolegade og Rughavevej.
Det er formentlig en gårdmand, Lars Kjeld Olsen, der har opkaldt gården efter sig selv.
Efter en brand i 1878, flyttede gården ud på marken på den sydlige side af jernbanesporene. Der gik dog ikke længe, før Carl Allers Etablissement købte den (se nærmere under Vigerslev Alle).
I dag er Kjeldsgårdsvej præget af etageejendomme, men tidligere lå her også forskellige små industrivirksomheder. F.eks. var her en pølsefabrik, en medicinalfabrik og en gummifabrik.
På Kjeldsgårdsvej 27-37 ligger et lejlighedskompleks (herunder) opført af Tjenestemændenes Byggeforening omkring 1918. Arkitekten var Rolf Schroeder (1872-1948).
Schroeder tegnede også den store karré mellem Kjeldsgårdsvej og Trekronergade.