Gaden er opkaldt efter Mimer, der er en jætte i den nordiske mytologi.
Mimersgade ligger i et kvarter, hvor de fleste gader har navne efter nordiske guder, og gaden har også givet navn til kvarteret, som ofte kaldes Mimersgadekvarteret.
Først i 1925 blev gaden ført igennem i sin nuværende længde og fik sit navn. Før da hed størstedelen af gaden Rosagade, mens den vestligste del had Slejpnersgade. Oprindelsen til navnet Rosagade er uvis.
Ejendommen Heimdalsborg på hjørnet af Midgårdsgade (billedet herunder), er opført i 1903.
I den østlige ende af Mimersgade, mellem Thorsgade og Jagtvej ligger der på begge sider en bebyggelse fra 1920’erne. En del af lejlighederne i stuen har karakteristisk karnapper (billedet herunder).