Vejen har navn efter politikeren og sprogvidenskabsmanden Johan Nicolai Madvig (1804-1986). Han var professor ved Københavns Universitet og desuden medlem af den første rigsdagsforsamling.
Indtil 1893 lå landstedet Sans Souci ved Frederiksberg Allé, men det blev revet ned og Madvigs Allé anlagt på dets jord.