Gaden har som mange andre på Vesterbro navn efter lokaliteter i Nord- og Sydslesvig.
Sankelmark er en landsby i Sydslesvig. Her fandt et slag sted under den danske hærs tilbagetog fra fæstningen Danevirke i 1864.
Sankelmarksgade fik sit navn i 1886.
Omkring hvor Sankelmarksgade går i dag, lå fra 1700-tallet Sankt Hans Hospital. Her blev både patienter med psykiske sygdomme og pestsmittede isoleret langt uden for byen.
I området lå også en pestkirkegård og en galge, hvor forbrydere blev henrettet.
Hospitalet flyttede i 1769 til Københavns Ladegård og senere til Roskilde.
Derefter blev bygninger omdannet til en restauration, der fik navnet Belvedere, som på italiensk betyder en smuk udsigt.
Belvedere lå næsten ved kysten ud til Kalveboderne.
Helt ude i vandet blev der indrettet en badeanstalt, der også bar navnet Belvedere.
Stedet har i nyere tid givet navn til Belvederekanalen og Belvederekaj.