Parken har ligesom Hans Tavsens Gade, som den ligger langs med, navn efter munken Hans Tavsen (1494-1561).
Oprindeligt var arealet, hvor parken ligger, en del af Assistens Kirkegård. Det blev i 1800-tallet udlagt til begravelser for lemmerne på Københavns Ladegård, som den såkaldte frijordskirkegård.
Under koleraepidemien i 1853, blev denne del desuden brugt til at begrave epidemiens ofre.
I 1909 blev denne del af kirkegården nedlagt og omdannet til park, som bl.a. kom til at rummer legepladser for de nærliggende skoler. I 1938 fik parken sit navn.
I Hans Tavsens Park står flere skulpturer, f.eks. en afstøbning af Michelangelos statue af Moses (herover), der blev opstillet i 1925, en afstøbing af den klassiske, græske statue af Laokoon, og enelig Johannes C. Bjerg (1886-1955) og Poul Holsøes (1873-1966) Artemisspringvand (herunder).