Gaden er anlagt i 1680’erne og hed dengang Lille Adelgade.
I 1700-tallet skiftede den navn til Ny Adelgade, for at kunne skelne den fra Adelgade i den nye bydel, Ny-København.
I en periode i 1700-tallet kaldtes gaden også for Lille Grønnegade, fordi den støder op til Grønnegade. På det tidspunkt lå i Ny Adelgade 10 det lille Grønnegadeteater.
Pestepidemien i 1711 siges at være startet her.