I 1889 blev det besluttet, at arkivalierne fra lokale, offentlige myndigheder skulle opbevares i ét af tre provinsarkiver i Danmark, mens Rigsarkivet alene skulle tage sig af centraladministrationens arkivforhold.
For Danmark øst for Storebælt blev der etableret et Landsarkiv i København, som fik til huse på Nørrebro.
Arkitekten Martin Nyrop (1849-1921) tegnede arkivets bygning, der blev opført på en grund ved Jagtvej. De forholdsvis smalle vinduer afspejler indretningen indvendigt med gange og reoler.
Ved siden af arkivbygningen blev der bygget kontorfløj og en villa til landsarkivaren.
Villaen blev revet ned, da der på grund af pladsmangel i midten af 1960’erne blev opført en ny magasinbygning ved siden af den gamle. Niels Koppel (1916-2006) var arkitekten for nybyggeriet.
I 2009 blev Landsarkivet nedlagt og arkivfunktionen flyttede til en ny bygning ved Kalvebod Brygge.
Der har været forskellige planer om at opføre et nybyggeri på grunden. Se nærmere i artiklen om Nuuks Plads.
Foran den gamle arkivbygning står en mindesten for tre soldater fra Den Danske Brigade, der blev skudt her 6.5.1945.