Vejen er opkaldt efter dronning Caroline Mathilde (1751-1775), der var gift med kong Christian den 7.
Hendes søn, Frederik, blev senere kong Frederik den 6., og har formentlig givet navn til den nærliggende Frederiksvej.
Bebyggelsen ved Mathildevej blev opført i 1880’erne. Vejnavnet blev foreslået af en grosserer Phillipsen, der formentlig udstykkede grundene ved vejen.
På kortet herunder fra 1883, er vejen endnu projekteret.