D'après Louis Graves (1843), le cimetière actuel se trouve à l'emplacement d'une ancienne église paroissiale sous le vocable de Saint-Marc qui regroupait les villages de La Hérelle, Chepoix et Mory. Un cimetière commun l'entourait. Elle aurait été brûlée par les Bourguignons pendant la guerre de Cent Ans en 1434, puis de nouveau par les Espagnols en 1636. Chaque paroisse réédifie un lieu de culte propre après ces conflits et ce cimetière reste affilié à Mory-Montcrux.

L'auteur signale que la chapelle qu'il voit lorsqu'il écrit son Précis statistique sur le canton de Breteuil est couverte en chaume et que le cimetière est entouré de haies vives. La chapelle en brique aujourd'hui conservée a été reconstruite au milieu du XIXe siècle (abbé Seillier, 1898). D'après les documents de la série O des Archives départementales de l'Oise, elle est restaurée en 1863.  

En 1874, un plan du cimetière (ill.) est élaboré en même temps que sa règlementation et la tarification des concessions. Le règlement est toutefois modifié en 1896 car les concessions perpétuelles sont placées au fond alors qu'elles devraient se trouver valorisées à l'entrée du cimetière et autour de la chapelle. Désormais, il est possible de choisir son emplacement lorsque l'on souhaite ouvrir une concession perpétuelle.

D'après l'Association pour la Connaissance et la Conservation des Croix et Calvaires du Beauvaisis, la chapelle est restaurée en 2019 par le personnel communal (pose d'un nouveau lambris pour les voûtes, blanchiment des murs). Elle sert actuellement de colombarium pour accueillir les urnes en cas d'inhumation par crémation.

Lors de la visite du cimetière en 2024, de nombreux monuments funéraires anciens étaient concernés par une procédure de reprise de concession.