Gaden er opkaldt efter forfatteren Johan Ludvig Heiberg (1791-1860), der var forfatter og direktør for det nærliggende Kongelige Teater.
Den vestlige del af gaden skiftede i 2018 navn til Harald Landers Gade efter balletmesteren Harald Lander (1905-1971), der i årene 1932 til 1951 var chef for Den Kongelige Ballet.
Heibergsgade er en del af gadenettet på Gammelholm, hvor den og Holbergsgade er de to eneste, der har fået navn efter forfattere. De andre gader er opkaldt efter søhelte.
Den nordlige del af gaden gik henover haven til Charlottenborg, der endnu mens gaden var under anlæg, fungerede som Botanisk Have.
Ligesom i den øvrige del af Gammelholm, var de ejendomme, der opførtes i Heibergsgade beregnet for borgerskabet.
Herunder ses ejendommen på hjørnet af Herluf Trolles Gade. Billedet er formentlig fra omkring 1905.
Mellem Herluf Trolles Gade og Peder Skrams Gade ligger Det Hempelske Handelshus’ bygning.
Firmaet blev grundlagt i 1915 af Jørgen Christian Hempel (1894-1986) og var starten på det internationale virksomhed Hempels Skibsfarver.
