Gadens navn betyder formentlig viol-stræde.
Måske skyldes det, at der i denne del af byen ikke var så meget bebyggelse i 1500- og 1600-tallet, men åbne områder, hvor der måske har vokset violer.
At der har vokset blomster i kvarteret, tyder også gadenavnet Rosengården på.
Gadens sydlige del hed i 1600-tallet Kirkestræde.
I middelalderen var denne del af byen præget af gårde, der hørte til Københavns Universitet med tilhørende haver. På det åbne areal på gaden nordside (for neden på kortet herover), blev der under pestepidemien i 1711 anlagt en kirkegård for sygdommens ofre.
Også Vor Frue Kirke havde en embedsbolig her, hvor kirkens kantor – altså leder af koret – boede.
Kantorgården lå, på hjørnet af Frue Plads og Fiolstræde, hvor Universitetsbiblioteket ligger i dag. På samme måde havde kirkens degn sin bolig i området mellem Store Kannikestræde og Krystalgade.
Ved Fiolstræde lå i 1600-tallet lå de små slipper, Smøregangen (eller Brøndgården) og Jørgen Eilersens Gang, der nu er forsvundet.
Ud mod Frue Plads ligger Metropolitanskolen.
Fiolstræde 8, på hjørnet af Store Kannikestræde, var oprindeligt bolig for stiftsprovsten ved Vor Frue Kirke.
Huset er fra 1840’erne, og tidligere lå her én af Københavns Universitets professorboliger.
Forfatteren Ludvig Holberg havde embedsbolig her, som der står på en mindetavle i muren ved siden af bygningen. Det store kastanjetræ bag havemuren skal være fra Holbergs tid.
En stor del af bygningerne i den nordlige del af gaden er fredede.
Det gælder f.eks. ejendommen på hjørnet af Krystalgade, som er i bindingsværk. Her lå tidligere værtshuset “Røde Lygte”.
Det lille torv for enden af Fiolsstræde ud mod Nørre Voldgade kaldes Nørretorv eller Æggetorvet, men kaldtes tidligere mere folkeligt også for Skidentorvet.
Torvet er opstået, fordi husrækken drejer lidt mod øst. Det markerer, at her gik den oprindelige vold som omgav København.
På hjørnet af torvet ligger Købmandsskolens store bygning. Den blev opført omkring 1902 efter tegning af arkitekten Valdemar Ingemann (1840-1911).
Over indgangen til Købmandsskolens bygning sidder et relief med de to guder Neptun og Merkur, der er ansvarlige for hhv. søfart og handel.
I 1968 blev Fiolstræde omdannet til gågade.