Gaden har navn efter Sankt Clara Kloster, der lå tæt ved. Sammen med Møntergade førte Klareboderne fra Købmagergade til klosterets indgang, der lå på hjørnet af den nuværende Gammel Mønt.
Klareboderne nævnes allerede i begyndelsen af 1500-tallet, hvor Københavns borgmester Albert van Goch har nogle huse der er beregnet til udlejning til de fattige. De kaldtes også for sjæleboder, og har givet navn til gaden Sjæleboderne.
Også andre, f.eks. rigshofmester Peder Oxe, havde udlejningsboder i området, som altså var en slags fattigkvarter.
I Klareboderne 3 ligger forlaget Gyldendal. Det startede som en boghandel i 1770, og flyttede 17 år senere ind i den store ejendom, der er opført i 1728.
Firmaet blev hurtigt også et bogforlag og gennem opkøb af andre forlag blev det landets største. Gyldendal fik fra 1903 et lager på Lindgreens Allé på det østlige Amager.
I en periode i 1800-tallet lå Borgerdydskolen i bygningen inden den omkring 1884 flyttede til Stockholmsgade. I porten sidder en mindetavle for Søren Kierkegaard, der var elev i Borgerdydskolen.
Dekorationen over porten blev udført i 1904 af kunsthåndværkeren Caspar Leuning Borch (1853-1919).