Gaden ligger i Adelgade-kvarteret, hvor en del veje har navn efter tidligere tiders betydningsfulde personers erhverv eller stand.
En klerk er betegnelsen for en præst eller blot en gejstlig person.
Tidligere var Klerkegade kun navnet på gadens midterste del, men den vestlige hed Lavendellængen og den østlige Hjortelængen.
I Lavendellængen kaldtes også for Skolemesterlængen, fordi en af Nyboders skoler lå her fra 1670.
Husene i Klerkegade lå tæt og bestod af små og usunde lejligheder. Kvarteret var blandt de tættest befolkede i København. En opgørelse i midten af 1800-tallet viste, at i nogle lejligheder var der kun 1,5 kvadratmeter til hver beboer.
Det var i Klerkegade, at den store koleraepidemi brød ud i 1853. Sygdommen spredte sig hurtigt i det tæt bebyggede kvarter og kostede næsten 5.000 mennesker livet.
Koleraepidemien var årsagen til, at der blev opført sundere boliger udenfor selve byen, f.eks. Lægeforeningens Boliger på Østerbro og anlægget af Kommunehospitalet på Nørrevold.
En dominerende bygning i Klerkegade er den tidligere Frimurerloge (tegningen herover), der er opført 1867-1868 og tegnet af arkitekt Frederik Vilhelm Tvede (1826-1891).
I 1927 stod en ny logebygning færdig på Blegdamsvej og huset i Klerkegade har siden været brugt af bl.a. Københavns Universitets musikvidenskabelige institut.
En anden logebygning ligger i Klerkegade 10. Den blev også tegnet af Frederik Vilhelm Tvede og opført i 1869 for Kjædeordenen, som især arbejde for blindeforsorgen.
“Kjæden” stod bl.a. bag oprettelsen af Blindeinstituttet på Kastelsvej. På ordensbygningen i Klerkegade sidder en mindetavle, hvor Kjæden takkes for sin indsats for blindesagen.
I Klerkegade 25 ligger en ret anonym bygning (herunder), der er opført af admiral Johan Balthazar Winterfeldt i 1838.
Winterfeldt arbejdede for at stille boliger til rådighed for fattige, og bygningen kaldes også for Trøstens Bolig. Stiftelsen fik senere en afdeling i Hindegade.
Bag bygningen ligger Den Treschowske Stiftelse, opført 1848. Denne stiftelse har også haft som sit formål at skaffe hjem til socialt udsatte, og har også boliger i Overgaden Oven Vandet.