Vejen har formentlig fået sit navn, fordi den var den første sidevej til Frederiksberg Allé. Den blev anlagt i 1851.
Den hed oprindeligt Christiansholms Allé efter ejendommen Christiansholm, der lå på hjørnet af Gammel Kongevej. Vejen har også haft navnet Sankt Jørgens Vej. I 1869 fik den sit nuværende navn, som dog i nogle år havde stået på bykortene.
Nyvej var oprindeligt en privat vej, anlagt af de første grundejere, der byggede landsteder langt udenfor byen. Det gjaldt konsul Christian Ipsen og justitsråd N. C. Mühlensleth, som anlagde vejen og udstykkede grundene til villaer.
I dag er der både villaer og etagebyggeri på vejen og enkelte af de oprindelige villaer er bevaret. Det gælder f.eks. Nyvej 5, der er opført i 1857.
Bygningskomplekset på Nyvej 8-10 (herover) er opført i 1908.
På Nyvej ligger frikirken København Vineyard. Den blev bygget i 1967 til Kristen Videnskab. Arkitekten var Erik Chr. Sørensen.