Vejen har navn efter en bakke eller forhøjning, der i 1600-tallet kendes som Ellebjerg. Bakken lå omkring ved krydset med Gammel Køge Landevej.
Ellebjergvej er navngivet i 1933.
På hjørnet af Ellebjergvej og den lille vej Strømmen, lå fra 1914 Nordisk Elektricitets Selskab. Firmaet var grundlagt i 1908 under navnet Moderne Mekanik. I 1950’erne beskæftigedes omkring 550 medarbejdere.