Vejen har navn efter videnskabsmanden Julius Thomsen (1826-1909). Han var blandt meget andet direktør for Polyteknisk Læreanstalt.
Thomsens fag var kemi, som han underviste i på Københavns Universitet. Desuden arbejdede han med idéen om at udvinde råstoffet kryolit på Grønland. Han var med til at grundlægge Kryolitfabrikken Øresund ved Strandboulevarden.
Gaden blev anlagt omkring 1930, hvor Københavns Ladegårds bygninger var revet ned og et lille, trekantet område hvor gården lå overført fra Frederiksberg til Københavns Kommune.
På Julius Thomsens Gade ligger Radiohusets koncertsal (se nærmere om Radiohuset under Rosenørns Allé).