Gaden er ganske kort og opstod i 1600-tallet, da Corfitz Ulfeldts gård ved Gråbrødretorv blev revet ned.
Navnets oprindelse er uvis, men kan måske skyldes en gård, der blev kaldt Kejsergården.
Engang lå her rigsdrosk Jouachim Gersdorfs gård.
Den var opført på det tidligere Gråbrødreklosters have og kirkegård, og da man rev gården ned, fandt man en del skeletter derfra.
I 1700-tallet kaldtes gaden for Tværstræde og først i 1830’erne får den navnet Kejsergade.
I 1960’erne blev gaden kendt p.gr.a. “Kejsergadesagen”, som handlede om en hemmelig aflytningscentral, der var indrettet i en bygning, der tilhørte Københavns Universitet.
Kejsergade har kun to husnumre. På gadens nordside ligger Kejsergade 2 (herover), som blev opført omkring 1905 som forretningsejendom for grosserer Christian Hasselbalch. Den er tegnet af arkitekten Bernhard Ingemann.
I begyndelsen af 1900-tallet var der planer om at føre gaden igennem mod syd til Valkendorfsgade, men det blev ikke til noget.
Selv om videreførelsen af Kejsergade mod syd ikke blev realiseret, er der dog i dag forbindelse for gående og cyklister gennem “Kringlegangen” (billedet herunder).