Gaden er opkaldt efter Arni Magnusson (1663-1730), der var professor ved Københavns Universitet i 1700-tallet.
Han indsamlede islandske håndskrifter, der bl.a. opbevares i Rigsarkivet, hvis magasin ligger tæt ved gaden. Magnusson arbejdede selv som sekretær ved arkivet.
Gaden blev navngivet i 2009, og grundejerne foreslog, at den skulle hedde Tivoli-torvet. Det mente kommunalpolitikerne dog var en anelse for kommercielt, og man ville hellere opkalde vejene i området efter videnskabsmænd, så man fik Carsten Niebuhrs Gade og Kristian Erslevs Gade.
Den ganske korte gade, der ligger mellem Kalvebod Brygge og Carsten Niebuhrs Gade har kun to “beboere”, nemlig de to hoteller Tivoli Hotel og Cabinn. De er forbundet med gangbroer tværs over gaden.