Gaden har navn efter Silkekompagniet, der blev stiftet omkring 1620 på kong Christian den 4.’s initiativ.
Kompagniet havde en fabrik på hjørnet af Silkegade og Pilestræde. Her blev der fremstillet klæde og silke og kompagniet fik monopol på at handle med disse varer på Sjælland.
Silken blev fremstillet af tyske og nederlandske håndværkere, der blev indkvarteret i 28 ens huse med omkring 50 lejligheder. Bygningerne var tegnet af arkitekten Hans van Steenwinckel (1587-1639).
Silkeproduktione blev dog ikke den store succes, selv om kongen pålagde told på udenlandsk silke og ligefrem pålagde borgerskabet kun at bruge silke, der var produceret herhjemme.
Kompagniet blev nedlagt igen og i 1631 blev nogle af husene og en gård i Pilestræde indrettet til et domus misericordiæ – en fattiggård.
Herfra uddelte man en gang om ugen mad og penge til de fattige og stedet fungerede også som arbejdsanvisning. Her var også en ”heglestue”, hvor der blev forarbejdet hør, der kunne uddeles til de fattige, så de kunne få tøj.
Efter 1769 flyttedes forsorgen for de fattige til Almindelig Hospital.
I Silkegade 6-8 ligger Sparekassens Bikubens bygning, der blev opført i begyndelsen af 1880’erne efter tegning af arkitekten Johan Daniel Herholdt (1818-1902) og færdiggjort 1927-1929 ved en tilbygning på hjørnet af Pilestræde, der var tegnet af Gotfred Tvede.
Bikuben var stiftet som en sparekasse og forsørgelsesforening i 1857 og havde til at begynde med lokaler i Silkegade. En nybygning på Silkegade 6 tegnet af Poul Kjærholm, blev føjet til i 1957.