Gaden er som de andre sidegader til Holmbladsgade opkaldt efter en svensk landsdel.
Omkring hvor Jemtelandsgade går i dag, lå fra slutningen af 1700-tallet en limfabrik, som senere blev omdannet til et linnedvæveri. Holmbladsgade blev anlagt som forbindelsesvej til Strandlodsvej, hvor væveriet dyrkede hør.
I 1880 opførte limfabrikant L. P. Holmblad en oliemølle med tilhørende pakhus, hvor fabrikken havde ligget (billedet herover). Bygningerne blev tegnet af arkitekt Georg Wienken Møller (1840-1897).
Virksomhedens kontorbygning er i dag kontor for Nathanaels Kirke.