D'après Decagny (DECAGNY, 1844), l'église Saint-Quentin-Capelle, attestée au XIe siècle, est élevée par les chanoines de Saint-Fursy, à l'emplacement de leur four commun au pied de la butte S. Fursi, proche de la fontaine Saint-Fursy. Elle est érigée en paroisse pour tous les habitants des rues avoisinant leur collégiale et desservie par leur chapelain de Notre-Dame, qui avait le titre de curé de cette église. Reconstruite au XVIe siècle, elle était éclairée par de belles verrières : "sur l'une d'elles était représenté au milieu de ses quatorze échevins, Fursi Morel, licencié ès lois et maieur en 1538" (DECAGNY, 1844).

L'édifice est représenté sur un plan de la fin du XVIIIe siècle qui montre une église de plan allongé à chevet polygonal occupant une parcelle îlot délimitée par les rues de la Fontaine et Saint-Quentin-Capelle. Le terrain est loti après la démolition de l'église en 1804.