Gadens navn betyder formentlig viol-stræde.
Måske skyldes det, at der i denne del af byen ikke var så meget bebyggelse i 1500- og 1600-tallet, men åbne områder, hvor der måske har vokset violer.
At der har vokset blomster i kvarteret, tyder også gadenavnet Rosengården på.
Gadens sydlige del hed i 1600-tallet Kirkestræde.
I middelalderen var denne del af byen præget af gårde, der hørte til Københavns Universitet med tilhørende haver. På det åbne areal på gaden nordside (for neden på kortet herover), blev der under pestepidemien i 1711 anlagt en kirkegård for sygdommens ofre.
Kirkegården var en ekstra kirkegård, der hørt til Vor Frue Kirke, og kaldtes derfor en assistens-kirkegård. Den blev forløberen for Assistens Kirkegård på Nørrebro.
Fiolstrædes kirkegård kaldte også „Linden‟ og det blev også navnet på en gæstgivergård på stedet. I Linden holdt man både heste, grise og høns, og hvad de efterlod på møddingen, blev hentet af amagerbønderne og kørt ud på markerne som gødning.
I baghuset til „Linden‟ lå Fiolteatret fra 1961. Det flyttede i 1970 til Halmtorvet.
Vor Frue Kirkes kantor, dvs. lederen af kirkens kor, havde en bolig i Fiolsstræde. Kantorgården lå, på hjørnet af Frue Plads og Fiolstræde, hvor Universitetsbiblioteket ligger i dag. På samme måde havde kirkens degn sin bolig i området mellem Store Kannikestræde og Krystalgade.
Ved Fiolstræde lå i 1600-tallet lå de små slipper, Smøregangen (eller Brøndgården) og Jørgen Eilersens Gang, der nu er forsvundet.
Ud mod Frue Plads ligger Metropolitanskolen.
Fiolstræde 8, på hjørnet af Store Kannikestræde, var oprindeligt bolig for stiftsprovsten ved Vor Frue Kirke.
Huset er fra 1840’erne, og tidligere lå her én af Københavns Universitets professorboliger.
Forfatteren Ludvig Holberg havde embedsbolig her, som der står på en mindetavle i muren ved siden af bygningen. Det store kastanjetræ bag havemuren skal være fra Holbergs tid.
En stor del af bygningerne i den nordlige del af gaden er fredede.
Det gælder f.eks. ejendommen på hjørnet af Krystalgade, som er i bindingsværk. Her lå tidligere værtshuset „Røde Lygte‟.
Det lille torv for enden af Fiolsstræde ud mod Nørre Voldgade kaldes Nørretorv eller Æggetorvet, men kaldtes tidligere mere folkeligt også for Skidentorvet.
Torvet er opstået, fordi husrækken drejer lidt mod øst. Det markerer, at her gik den oprindelige vold som omgav København.
På hjørnet af torvet ligger Købmandsskolens store bygning (herover). Den blev opført omkring 1902 efter tegning af arkitekten Valdemar Ingemann (1840-1911).
Over indgangen til Købmandsskolens bygning sidder et relief med de to guder Neptun og Merkur, der er ansvarlige for hhv. søfart og handel.
I 1968 blev Fiolstræde omdannet til gågade.