Alors que la plupart des communes de la région transfèrent leur cimetière paroissial à l'écart des habitations, La Neuville-Saint-Pierre vote en 1845 une nouvelle tarification pour le cimetière, toujours maintenu autour de l'église (AD Oise : série O). Il faut attendre 1908 pour que le cimetière soit déplacé au lieu-dit "La Mairie", sur un terrain donné par Mme Watripon (veuve Poncelle) et Mme Gilles (veuve Watripon). En échange, ces dames se réservent une concession perpétuelle dans le cimetière, même si l'érection du tombeau reste à leur charge. Elles offrent également la construction de la clôture et du portail (AD Oise : série O).
Deux ans après l'installation du nouveau cimetière, la commune entreprend la construction d'un caveau communal selon les plans dressés par M. Tabary. D'après le devis, les briques de la briqueterie de La Neuville-Saint-Pierre seront utilisées pour sa confection. La mise en œuvre est confiée à Édouard Martin, entrepreneur en maçonnerie à Lafraye. En 1913, un monument funéraire est édifié sur ce caveau par M. Ollivier, marbrier à Beauvais.
Marbrier actif à Beauvais dans la première moitié du 20e siècle.