I 1620 grundlagde professor ved Københavns Universitet, Ole Worm (1588-1654), en samling af genstande, der først og fremmest skulle bruges i forbindelse med undervisningen på universitetet.
Samlingen lå oprindeligt i professorboligen på hjørnet af Frue Plads og Store Kannikestræde.
Da Worm døde, overgik samlingen til det kunstkammer, som kong Frederik den 3. havde oprettet. Kunstkammeret blev indrettet i en bygning ved siden af Christiansborg Slot.
I 1825 blev samlingen i Kunstkammeret splittet op og genstandene fordelt til en række specialmuseet, f.eks. Statens Museum for Kunst og Rosenborg Slot, mens andre blev grundstammen i et nyoprettet Nationalmuseum.
I 1849 blev samlingerne flyttet til Prinsens Palæ ved Frederiksholms Kanal, hvor de er i dag.
I Nationalmuseet indgik også den samling af oldsager, der var indsamlet gennem Den kgl. Kommission til Oldsagers Opbevaring, der var grundlagt i 1807. Oldsagerne lå i en årrække på loftet over Trinitatis Kirke.
Selv om der havde været forskellige planer om at flytte museet til andre lokaler, besluttede man i 1920’erne at lade det blive i Prinsens Palæ og udvide med en større tilbygning. Den blev opført i årene 1929-1938.
Gennem tiden har Nationalmuseet fået afdelinger andre steder, f.eks. i Brede Værk nord for København.