Navnet henviser formentlig til, at der i sognet lå en ældre kirke i Høje Taastrup landsby.
Kirken er indviet i 1907.
Den er tegnet af arkitekterne Kock og Clausen, men da de begge døde inden kirken var færdig, blev arbejdet fuldført af Holger Jacobsen, der også har stået for interiøret.
For at indpasse kirken på grunden ud til landevejen, er koret lagt mod vest. Tårnet står frit ved siden af og er forbundet med koret ved et våbenhus.