Le plus ancien document connu mentionnant un autel du Sépulcre ou du Saint-Sépulcre dans la collégiale date de 1279 et se rapporte à la fondation d'une chapellenie. A cette époque, le choeur et le second ou petit transept venaient d'être bâtis, et le premier ou grand transept était en cours de construction. Aucun autel de la partie orientale de la collégiale n'étant placé sous le vocable du tombeau du Christ, l'autel du Sépulcre devait donc vraisemblablement être situé dans la nef encore intacte de la précédente église. La reconstruction de la nef débute peu avant 1400, et ses chapelles sont achevées et vitrées dans le premier quart du 15e siècle. Plus précisément, l'actuelle chapelle du Sépulcre est construite peu après 1411. En cette année, le chapitre décide que cette chapelle, bien qu'elle soit basse, sera faite de la même manière que les autres chapelles déjà bâties dans l'église. Effectivement, la chapelle ressemble stylistiquement à ses voisines. Elle présente néanmoins deux différences majeures : elle est plus profonde que les autres chapelles sud de la nef, et le niveau de son sol est également plus bas. Il est donc possible que cette chapelle ait été reconstruite sur les fondations d'une chapelle précédente et que le niveau originel de son dallage ait été respecté. Quant à son vocable, il reflète la grande dévotion manifestée à l'époque pour les lieux en rapport avec la Passion du Christ. Par comparaison avec d'autres chapelles de même vocable, on peut supposer qu'un Christ mort ou une Mise au tombeau s'y trouvait représenté à l'origine. En 1450, sire Guillaume Grin et son épouse Jeanne Rendue (ou Le Rendue) fondent une chapellenie dans cette chapelle. Le chanoine Colliette précise que ce seigneur avait une dévotion particulière pour la sépulture du Christ et en avait fait sculpter la représentation dans l'église des Jacobins de Saint-Quentin. Le fils de Guillaume Grin, chanoine de la collégiale, meurt le 27 septembre 1467 et est inhumé dans la chapelle du Sépulcre. Le chanoine De La Fons rapporte le texte de sa dalle ou de sa plaque funéraire : Ci-git Me Jehan Grin, docteur en théologie, Chanoine de céans, qui trépassa le XXVIIe jour du mois de septembre l'an 1467, en mémoire duquel fut faicte cette table d'autel avec la machonnerie [...]. On peut donc attribuer à ses parents, qui fondent également en 1469 une messe pour le salut de leur âme et de celle de leur fils, la construction d'une nouvelle table d'autel et vraisemblablement celle de la niche qui la surmonte. Un acte du chapitre de 1469, cité par De La Fons, mentionne en effet le remplacement d'un simple Christ en croix par un Calvaire, formé d'un Christ encadré par les deux larrons et placé sur une éminence dans une niche. La niche et son décor, qui subsistent in situ, sont d'ailleurs caractéristiques de l'art de cette période. Le décor de la chapelle est abîmé en 1793, tandis que le groupe sculpté est détruit. On ignore si l'autel offert par Guillaume Grin s'y trouvait encore. En 1792, la chapelle servait déjà de chapelle des fonts baptismaux et il est probable que cette nouvelle fonction avait provoqué quelques modifications. On ignore également de quelle époque date le haussement de son sol au niveau de celui des chapelles voisines, attesté par une lithographie de la première moitié du 19e siècle. Quoi qu'il en soit, la chapelle continue d'abriter les fonts baptismaux pendant la presque totalité du 19e siècle. Dans le courant des années 1890, la chapelle est restaurée sous la direction de l'architecte Pierre Bénard. Les fonts sont déplacés dans le bas-côté sud de la nef, en février 1892, et la chapelle retrouve son niveau de sol original dans les semaines qui suivent. Le 27 septembre 1895, le conseil de fabrique décide l'établissement d'un escalier bordé d'un garde-corps en fer forgé pour descendre dans la chapelle. La niche et son dais ornemental sont restaurés en 1896 par Francis et Aimé Jacquier, sculpteurs-statuaires à Caen et Paris. Les deux artistes, qui avaient exécuté précédemment divers éléments de mobilier et décors pour la basilique, réalisent aussi un autel néogothique et un nouveau groupe sculpté, livrés en mars 1896. Ce dernier, qui représente une Crucifixion, s'inspire de la description esquissée par le chanoine Quentin de La Fons. Toutefois, les personnages doivent être plus nombreux ou leur taille est plus développée, car le groupe actuel semble à l'étroit dans la niche. Ce décor, achevé en 1897 semble-t-il (selon Oudart), a été endommagé au cours de la Première Guerre mondiale, et le groupe de la Crucifixion qui y a perdu, entre autres, quelques têtes n'a pas été restauré.