Gaden er opkaldt efter den svenske landsdel Vermland.
Den østlige del af Vermlandgade blev anlagt i omkring 1. Verdenskrig. Først i slutningen af 1930’erne blev gaden ført igennem til Christmas Møllers Plads.
Industrikvarteret langs Vermlandsgade og Prags Boulevard blev udlagt i 1914. Københavns Kommune havde overtaget en del grunde fra staten efter ophævelsen af den militære beskyttelsesone på det nordlige Amager i 1909.
Området var velegnet til placering af industri, ikke mindst fordi der var jernbanespor. Et planlagt sidespor gennem industrikvarteret blev dog aldrig til noget. Opsvinget i industrien under 1. Verdenskrig betød, at salget af industrigrundene gik hurtigt.
Herover ses én af de første industrivirksomheder i Vermlandsgade, melbehandlingsfirmaet Gluten‘s fabrik, der blev tegnet af arkitekten Holger Jacobsen (1876-1960) i 1918.
Den østligste del af gaden – mellem Prags Boulevard og Holmbladsgade – hed i begyndelsen Holmblads Boulevard.
Den var første del af en projekteret gade med præsentable boliger, som dog blev opgivet igen, fordi arealerne ved Prags Boulevard blev udlagt til industriformål. Kun længst nede mod Holmbladsgade blev der opført boliger.
På strækningen fra Christmas Møllers Plads til Uplandsgade har Vermlandsgade en meget bred midterrabat. Det skyldes, at man i 1930’erne havde forberedt en jernbaneforbindelse fra Amagerbanen til andre baner i København ad denne gade.