Gaden er anlagt, hvor der oprindeligt gik en kanal, Børsgraven, på den vestlige side af Børsen. Her kunne skibene sejle helt op til børsbygningen med varer.
På den modsatte side af kanalen lå bl.a. en del værtshuse, som de handlende på Børsen besøgte. Det gik ofte livligt for sig, når der var gjort gode handler, så kongen bestemte, at kroerne skulle lukkes, så de overrislede gæster ikke udgjorde en fare.
I stedet blev der opført en række kombinerede beboelses- og pakhuse i forlængelse af Børsen. Det var seks gavlhuse, der hed Nybørs, men som i folkemunde blev kaldt for “De seks søstre”.
Nybørs blev revet ned omkring år 1900, og i stedet opførtes den nuværende byggeri som hovedsæde for Privatbanken. Huset bærer stadig navnet Nybørs (se nærmere i artiklen om Børsgade).
Børsgraven blev fyldt op i 1860’erne og den nuværende gade anlagt i stedet. På samme tid blev der bygget en ny Knippelsbro, som kom til at ligge i forlængelse af Slotsholmsgade, som dermed blev en hovedfærdselsåre for trafikken til Christianshavn.
Da Knippelsbro i 1930’erne blev flyttet til sin nuværende placering, blev trafikken til Christianshavn igen ledt ad Børsgade.
Ved Slotsholmsgade lå fra 1640’erne ét af Slotsholmens udskænkningsteder, det såkaldte Boldhus. Her var der både skænkestue, værelser til leje og en sal til boldspil, f.eks. badminton. Huset lå tidligere på den anden side af kanalen og har her givet navn til Boldhusgade.
Kurantbanken – senere Nationalbanken – fik sin egen bygning tæt op ad Børsen, som den endda blev bygget sammen med. De ses begge på tegningen herover fra, der er fra 1850’erne. I 1860’erne blev Nationalbanken flyttet til Holmens Kanal.
Slotsholmsgade har – foruden Børsen – en række markante bygninger. Tættest på Christiansborg Slot ligger Kancellibygningen. Derefter følger flere store ejendomme, som er opført af adelsmænd, der gerne ville opholde sig i nærheden af slottet.
Ved siden af Kancellibygningen ligger Den Stormske Gård , der er fra 1696. Storm var en islandsk købmand.
Den blev brugt af kong Frederik den 4, som bolig dels for sin elskerinde grevinde Schindel og siden sin hustru til venstre hånd Anne Sophie Rewentlow. Den kaldes derfor også Anne Sophie Rewentlovs gård. Denne bygning bruges i dag af Finansministeriet.
Det fortælles, at kongens stævnemøder fandt sted i et lokale i en sidefløj, der i loftet har et maleri at hofmaleren Hendrik Krock (1671-1738). Motivet er den romerske gudinde Aurora, der er omgivet af amoriner.
I nr. 10 ligger Lerches gård (billedet herover), der også kaldes Det Würtembergske Palæ, som er opført omkring 1740, og er tegnet af arkitekten J. A. Soherr.
Denne bygning er nogenlunde lige så gammel som det oprindelige Christiansborg Slot. Huset rummer i dag Justitsministeriet og Økonomi- og indenrigsministeriet.
Længst nede mod Christians Brygge ligger den store ministerialbygning (herover), der kaldes “Tjæreborg”, opført af arkitekterne Thomas Havning og Svenn Eske Kristiansen i 1960’erne.
Den afløste den tidligere Schackske gård, hvor en række ministerier havde til huse på hjørnet af den nu nedlagte Christiansgade – som i 1960’erne skiftede navn til Christians Brygge.
Christiansgade blev først anlagt i 1886. Før da lå der i Slotsholmsgade 14 et meget gammelt hus, der ses på illustrationen herover. Det var formentlig opført i 1600-tallet og forsynet med en svalegang, som giver et indtryk af, hvordan mange huse så ud i København før brandene i 1700-tallet.
For enden af Slotsholmsgade lå ud mod havnen lå en række pakhuse, der forsvandt i 1960’erne, i forbindelse med anlægget af Christians Brygge. På billedet herover ses også Sukkerraffinaderiet Phønix, der ligger med gavlen ud mod vandet.