Le premier cimetière de Fléchy se situe autour de l'église. En raison de son étroitesse et du manque de place pour de nouveaux tombeaux, la commune décide de le déplacer en 1900 et vote l'achat d'un terrain pour l'y installer. En 1902, le projet et le plan de la parcelle ciblée sont envoyés au préfet qui les valide en 1903. Un règlement du cimetière et des tarifs de concessions sont également définis.

Pour clôturer le nouveau cimetière, il est décidé de planter des ronces artificielles et des haies vives car construire des murs maçonnés coûterait trop cher.

En 1906, le plan à l'intérieur du cimetière est modifié : la largeur des terrains de concession est réduite au profit de leur longueur pour que la descente des corps dans les caveaux soit plus aisée.

En 1937, la porte d'entrée qui se trouvait dans l'angle nord est supprimée et une nouvelle, toujours en place actuellement, est aménagée en face de l'allée nord-sud.

Une croix de cimetière, aujourd'hui disparue, se trouvait à l'intersection des deux allées principales.

Les monuments funéraires sont tous postérieurs à l'installation du cimetière en 1902. La signature du marbrier Boussard a été relevée à quatre reprises. Il a également réalisé le monument aux morts installé en 1920.