Gaden har sit navn efter et farvand, Dybet, der lå mellem Sjælland og Bremerholm.
Dybensgade var i 1700-tallet, sammen med Holmensgade, præget af bordeller og værtshuse. I 1772 lå der i gaden hele 12 bordeller.
Dybensgade hed tidligere Delfingade, og var én af de gader i kvarteret, der havde navne efter fisk og havdyr. Se nærmere under Laksegade. Det nuværende navn fik gaden i anden halvdel af 1600-tallet.
Dybensgade 19 (herunder) er et tidligere pakhus, som blev opført i 1799 af bager Anders Borup sammen med ejendommen “Halds gård” på hjørnet af Nikolajgade.
Huset er fredet.