Gaden er opkaldt efter astronomen Ole Rømer (1644-1710).
Gaden er anlagt i midten af 1870’erne, hvor Nørrevold-kvarteret så småt blev bebygget efter at voldene omkring København var nedlagt.
Gadenavnet kan været en henvisning til Københavns Observatorium i nærheden, der ligesom Rømer har en tilknytning til astronomien.
Ejendommene i gaden var præget af den samme, mondæne stil, som i Nørrevold-kvarteret i øvrigt.
Vilhelm Klein (1835-1913) var arkitekten bag hjørneejendommen ved Frederiksborggade, som blev opført i 1876.
I Rømersgade ligger bl.a. Arbejdernes Forenings- og Forsamlingsbygning. Den er opført i 1878 som samlingssted for arbejderbevægelsen, der på det tidspunkt var i fremvækst, men manglede et sted at kunne mødes.
Forsamlingsbygningen fik hele 20 mødelokaler og en stor festsal. I huset var der også plads til kontorer for fagforeninger.
Bygningen havde i 1910 besøg af de internationalt kendte socialister, Vladimir Lenin og Rosa Luxemburg, som var til kongres i København.
Arbejdernes Forsamlingsbygning er fredet og én af de ældste af sin slags i verden. Den er desuden optaget på listen over forslag til udpegning som verdenskulturarv.
Ud mod Israels Plads opførtes i begyndelsen af 1880’erne Missionshuset Bethesda (tegningen herover). Bygningen er tegnet af arkitekten Ludvig Knudsen.
Kristelig Forening for Indre Mission i København blev stiftet i 1865 og initiativet kom bl.a. fra præsten ved Sankt Johannes Kirke, Rudolf Frimodt. De første år havde foreningen ikke sit eget missionshus, men holdt til i lokaler i Østergade.
Indre Mission havde mange sociale opgaver i blandt syge, socialt udsatte, prostituerede og på arbejdspladser i København. Som noget af det første dannede Frimodt “Faldne Mænds Redning” der arbejdede for hjemløse.