Gaden er opkaldt efter Livjægerkorpset, som deltog i udfaldet fra Kastellet under englændernes belejring af København i 1807. Korpsets leder var Frederik von Holstein, der har givet navn til Holsteinsgade.
Livjægerkorpset var en slags hjemmeværn, der skulle beskytte kongen. Da hæren var i Holsten i august 1807, hvor englænderne angreb København, var livjægerne nødt til at forsvare byen.
Englænderne havde skjult sit imellem bevoksningen i Classens Have, men fra Kastellet sendtes der dels kanonkugler imod dem, dels tømmermænd, som fældede træerne, så de ikke kunne bruges til at søge dækning imellem.
Livjægerkorpset gjorde udfald fra Kastellet med mere end 400 mand, og det kom til flere træfninger i området. Englænderne mistede en fjerdedel af deres mænd ved kampen.
I Kastellet er der i den ene af portbygningerne ved Kongeporten et museum for Livjægerne.
Omkring 1900 var det tanken, at Livjægergades sydlige del skulle være ført igennem til Østbanegade og kaldes Frederikshaldsgade.
Det blev dog ikke til noget, men den sydligste del af den påtænkte gade blev til Mandalsgade, mens Frederikshaldsgade mellem Kastelsvej og Classensgade blev til Livjægergade.
I Livjægergade 24-26 ligger en markant beboelsesejendom, Rosenborghus, der er opført i begyndelsen af 1900-tallet i en stil, der har en vis lighed med Rosenborg Slot.