Kirkegården blev anlagt i 1903 på en grund, som Københavns Kommune købte til formålet.
Fra begyndelsen blev dog kun en tiendedel af arealet udnyttet, men kirkegården blev løbende udvidet, i takt med at behovet voksede.
Arealet var på 56 tønder land og disponeret sådan, at der var plads til 85.000 grave. Kirkegårdens plan blev udarbejdet af Edvard Glæsel (1858-1919) og arkitekten Hans J. Holm (1835-1916).
Det oprindelige anlæg var strengt symmetrisk, og domineret af lange alléer. I dag er mange gravsteder nedlagt, så der er opstået åbne græsarealer, der giver kirkegården et mere parkagtigt præg.
Der blev fra starten opført et krematorium, tegnet af arkitekten Holger Jacobsen (1876-1960). Det blev drevet af “Foreningen for ligbrænding”, der var stiftet i 1881. Foreningen havde tidligere et krematorium, der lå ved Nyelandsvej på Frederiksberg.
Krematoriet bruges ikke længere til sit oprindelige formål, men er blevet til aktivitetshuset Dansekapellet, der drives af Københavns Kommune.
Bispebjerg Kirkegård har flere kapeller og en opsynsmandsbolig, der alle er tegnet af arkitekten Andreas Clemmensen (1852-1928).
Nordre Kapel er opført 1910 og Søndre Kapel (billedet herover) i 1912.
Ud mod Frederiksborgvej ligger indgangsportal og administrationsbygninger (herover), der også er tegnet af Clemmensen og opført 1903.
Ved hovedindgangen lå endvidere Østre Kapel fra 1903, som Andreas Clemmensen tegnede i norsk stil (tegningen herover).
Kapellet er i dag nedrevet og erstattet af et krematorium, tegnet af arkitekterne Friis & Moltke i årene 2001-03 (billedet herunder).
Krematoriet er Danmarks største og kan foretage over 5.000 ligbrændinger om året.
På kirkegården ligger et kolumbarium, som er en hal til anbringelse af urner. Bygningerne er tegnet af Holger Jacobsen i årene 1920-44 (herunder).
En lille del af kolumbariet er forbeholdt buddister.
Flere steder på kirkegården er opstillet skulpturer. Tæt ved hovedindgangen står Mathilius Schack Elos “Den lutrede sjæl, der bliver frigjort”, der er en gave fra Dansk Ligbrændingsforening og opstillet i 1941 (herunder).
På Bispebjerg Kirkegård findes en række specialafdelinger, dels for gravsteder for soldater, faldne i krige, og andre nationaliteter, dels for forskellige trossamfund.