Vejen er opkaldt efter Niels Johan Fjord (1825-1891), som i 1883 grundlagde Landøkonomisk Laboratorium, der ligger på Rolighedsvej.
N. J. Fjords Allé blev anlagt i 1890’erne på det areal, der tidligere blev brugt af Landbohøjskolen som forsøgsmarker.
Vejens buede forløb skyldes, at den fulgte jernbanelinjen mellem Frederiksberg og Nørrebro, der indtil 1930 gik her.