Vejen var fra 1847 tilkørsel til Valby Station. Den lå, hvor vejen drejer lige nord for jernbanen.
I 1864 blev banen mellem København og Roskilde omlagt, så den i stedet gik via Frederiksberg.
I tiden derefter fik vejen derfor navnet Gammel Jernbanevej.
I 1911 blev jernbanen igen ført via Valby og den nuværende Valby Station opført.
På vestsiden af vejen lå landstedet Valhøj. Da det forsvandt, blev de nuværende etageejendomme på Gammel Jernbanevej 8-10 (herunder) opført omkring 1890 som nogle af de første i Valby.
På hjørnet af Valby Langgade lå fra sidste halvdel af 1800-tallet villaen Cimbria. Den var ejet at en baron Gyldencrone, der uanset sin adelige stand, holdt af at besøge de lokale kroer.
På Gammel Jernbanevej lå tidligere Hotel Rossini. Hotellet brændte ned men blev genopført som en moderne betonbygning.
Hotellet lukkede i 1970’erne og bygningen i stedet overtaget af Datacentralen. I dag er den dog igen i brug som Hotel Rossini (herover).
Helt ud mod jernbanen ligger endnu en villa fra 1860’erne (herover til venstre). Den er formentlig én af de ældste bygninger i Valby.