Da man på Isøre tinge havde vedtaget at indføre kristendommen i Smørum, samlede man sten på markerne til kirkebyggeri, udvalgte sig en grund på en høj mellem Hove og Smørumovre og gik i gang, men hvad man byggede om dagen, rev troldene ned om natten, fortæller sagnet. Man flyttede så til den plads, hvor Smørum kirke i dag ligger.
Smørum kirke tidsfæstes til år 1170. Det er en romansk (rundbue) kirke. Tårnet er bygget i 1396.
Der er bygget til flere gange og forandret meget. I 1663 oprettes godset Edelgave. Godsejeren får et stolestade i kirken, som nedlægges igen i 1800-tallet, hvor kirken får sit nuværende udseende.
I 1934 overgår kirken til selveje, efter i 400 år at have været ejet af Københavns Universitet.