Ces sept éléments lapidaires proviennent du décor sculpté original de l'ancienne église abbatiale Saint-Yved. Les deux chapiteaux à acanthes, par analogie avec des éléments identiques encore en place dans les bas-côtés, proviennent certainement des colonnes engagées dans les parois extérieures des premières travées des bas-côtés, détruites à partir de 1832. Le revers des deux pièces montre encore qu'elles étaient engagées dans la paroi. Les deux chapiteaux à rinceaux, l'un couronnant à l'origine quatre colonnettes et l'autre, plus petit, une seule colonnette, passent pour provenir du cloître qui jouxtait l'abbatiale au nord. La pointe de pinacle et les deux têtes de gargouilles proviennent de parties détruites de l'église (massif occidental ou premières travées), ou du remplacement des éléments décoratifs d'origine sur les parties restaurées. Après le vol des deux têtes de gargouilles en 1960, cet ensemble a été déposé au musée de Soissons en 1962, ainsi que les vestiges des gisants de Simon de Roucy et de Marie de Châtillon.