Gaden er opkaldt efter erhvervsmanden Ole Behrend Suhr (1813-1873).
Han drev en fabrik, der producerede brændselsprodukter, men var også sammen med C. F. Tietgen med til at stifte forskellige selskaber, f.eks. Privatbanken. Suhr havde endvidere interesser i kryolitbrydningen på Grønland.
Suhr arbejdede sammen med en anden erhvervsmand, Thorvald Weber, som havde ejendommen Rørholm, der har givet navn til Rørholmsgade.
Weber foreslog at gaderne i kvarteret skulle opkaldes efter Ole Suhr, Christian Gammeltoft – og ham selv. Dermed opstod gadenavnene Ole Suhrs Gade, Gammeltoftsgade og Webersgade.
Gadens bebyggelse er opført fra 1870’erne og frem.
I Ole Suhrs Gade 10 ligger en skolebygning, der blev opført omkring 1883. Den blev grundlagt som den private Clausens Borgerskole i 1860 i Gothersgade. Den den flyttede til Ole Suhrs Gade i 1883, var det under navnet Kjær og Lyngbyes Realskole. Fra 1919 blev skolen overtaget af kommunen, og flyttede til Ravnsborggade og i 1923 til Hindegade.