Vejen har navn efter politikeren og sprogvidenskabsmanden Johan Nicolai Madvig (1804-1986).
Han var professor ved Københavns Universitet og desuden medlem af den første rigsdagsforsamling.
Madvigs Allé er ligesom Martensens Allé anlagt i midten af 1890’erne.
Indtil 1893 lå landstedet Sans Souci ved Frederiksberg Allé, men det blev revet ned og Madvigs Allé anlagt på dets jord.