Gaden blev anlagt i 1870’erne, hvor den blev ført igennem det belastede kvartér, hvor bl.a. Peter Madsens Gang lå.
Det var Det Kjøbenhavnske Byggeselskab med arkitekten Ferdinand Meldahl og industrimanden C. F. Tietgen i spidsen, der opkøbte alle ejendomme mellem Peder Madsens Gang og Kongens Nytorv for at rive dem ned og bygge et langt mere mondænt kvarter, der i dag bl.a. omfatter Ny Østergade og Hovedvagtsgade.
Et par år efter år 1900 blev Ny Østergade forlænget frem til Christian den IX.’s Gade.
Dermed forsvandt den blinde Lille Regnegade, og samtidig blev den lille smøge, Didrik Badskjærs Gang, der gik mellem Store Regnegade og Grønnegade, nedlagt.
Gaden havde navn efter Københavns rådmand, Didrik Badskjær, der i 1600-tallet anlagde boliger til fattigfolk her.
Peter Madsens Gang var opkaldt efter brygger Peter Madsen, der i 1600-tallet havde nogle udlejningsboder til de fattige her. Indgangen til gaden lå i Østergade mellem nr. 18 og 22, hvor Svaneapoteket lå.
Gaden var berygtet som slumkvarter. I 1871 blev gaden beskrevet som den sidste station før fattiggården. Den var berygtet for sine drukkenbolte, ludere (selv om bordellerne officielt blev lukket i 1869) og lommetyve.
Allerede i 1675 søgte den adelige frue, Else Parsberg, om tilladelse til at lukke gaden, fordi ”der bor kun skarnsfolk”.
Men der boede også ”almindelige mennesker”, f.eks. en bedstemor med sine to børnebørn, der havde en lejlighed på syv kvadratmeter – og her boede endvidere to logerende ældre damer.
I 1866-70 blev der lavet en undersøgelse, der viste at ud af 80 børn født i gaden, blev kun de 19 ældre end fem år.
Gaden var meget smal, og to vogne kunne ikke passere hinanden. Man sagde, at gaden var så smal at en fuld mand kunne holde balancen ved at støtte med hænderne på husene på hver side af den.
Der blev også holdt køer i én af ejendommene i Peder Madsens Gang.
Omkring 1873 blev gaden nedlagt og erstattet af Ny Østergade. Et par huse i den nuværende passage Pistolstræde fik dog lov at blive stående.