Le quartier canonial était délimité par six ou sept bornes en grès, dont trois se trouvaient dans l'actuelle rue du Musée. D'après le plan de Rancurelles (1574) un mur s'élevait au sud de la cathédrale pour en marquer la limite méridionale. La muraille gallo-romaine, toujours existante, marquait l'angle nord-est du quartier canonial. A l'intérieur de cette enceinte s'exerçait depuis 1348 la seule justice du chapitre. La prison du chapitre se trouvait dans une tour détruite en 1795 ou 1808 (?) : le "Gros clocher" ou "clocher gris", qui abritait aussi une partie des cloches de la cathédrale. Cette tour se dressait près du portail méridional de la cathédrale.

En 1756, il existait 27 maisons canoniales autour de la cathédrale. L'une des plus remarquables était la maison de la Belle-Image, au n° 12 de la rue de l'Abbé-Gellée (ancienne rue du Cloître-Saint-Pierre), appuyée sur le mur gallo-romain dont elle englobait une tour (la tour Leullier). Son nom provient d'une statue de Vierge à l'Enfant du début du 14e siècle qui en ornait la façade (collection particulière). L'origine de la maison remontait à l'époque romane. L'étage supérieur portait des fresques des 13e-14e siècles. Elle a servi d'évêché de 1905 à 1940, date à laquelle elle a été détruite mais il en subsiste quelques vestiges, notamment la tour gallo-romaine surélevée au 12e siècle. Des fragments sculptés provenant de la maison de la Belle-Image sont déposés dans la Galerie Nationale de la Tapisserie.

Sa voisine, la maison du Chantre (16, rue de l'abbé-Gellée), également d'origine romane, était surtout célèbre pour le décor du porche flamboyant dans la cour intérieure (armes du chapitre et armes de France sur les deux arcades ouvrant sur la roue, armes de Nicolas d'Argillières sur l'escalier). La plupart de ces maisons canoniales ont été détruites, victimes des bombardements de 1940. Il en reste trois dans la rue de l'Abbé-Gellée. En revanche, le palais épiscopal, le cloître, la salle capitulaire et la salle Saint-Pierre ont été préservés lors des bombardements.

Le palais épiscopal a vraisemblablement été édifié au 12e siècle, les fouilles archéologiques effectuées dans son enceinte n'ayant révélé aucune construction antérieure en dehors du mur gallo-romain sur lequel s'appuie l'édifice.

Au rez-de-chaussée se trouvait une grande salle divisée en deux parties inégales par une série de quatre arcades en plein cintre. Cette salle était accessible de l'extérieur par une porte située à l'opposé des remparts gallo-romains. Deux portes se faisaient vis-à-vis à chaque extrémité, l'une menant à un petit escalier situé sous l'oratoire actuel et l'autre à un escalier disparu lors de réaménagements antérieurs. Au premier étage se trouvait également une grande salle dont les usages étaient multiples. Sous l'épiscopat de Philippe de Dreux (1175-1217) des chapelles furent édifiées dans l'enceinte du palais. Renaud de Nanteuil, évêque de 1267 à 1283, aurait agrémenté le palais de vastes jardins.

Au début du 14e siècle, on attribue à l'évêque Simon de Clermont la construction du corps d'entrée du palais flanqué de deux tours défensives, qui faisait aussi office de donjon. L'aménagement intérieur présentait toutes les commodités de la vie médiévale (cheminées et latrines) et des salles voûtées prenaient dans les deux tours ainsi que dans le bâtiment attenant ; l'une d'elles présente encore des fragments d'une peinture monumentale dédiée à la musique. L'aile perpendiculaire à l'entrée a été construite vers 1380.

Au 16e siècle, lorsque Louis de Villiers de l'Isle-Adam prit possession de son évêché, le palais médiéval était en mauvais état et ne correspondait plus au goût de l'époque. L'évêque conserva l'entrée, le palais médiéval et la muraille gallo-romaine, mais il fit construire les caves et remanier la façade donnant sur la cour.

A partir du 18e siècle, les évêques successifs entreprirent de moderniser l'édifice. En 1752, le cardinal de Gesvres fit reconstruire le pont qui mène au jardin et réparer le rempart. Il fit aussi agrandir le jardin et supprimer les meneaux des fenêtres auxquelles on ajouta des balcons en fer forgé.

Saisi comme bien national en 1791, le palais devint le siège de l'administration départementale, d'un tribunal criminel (dans les deux tours), d'une prison et de la gendarmerie nationale. Devenu préfecture en 1811, il fut rendu aux évêques de Beauvais en 1823, mais en 1846 il devint palais de Justice.

Ces multiples changements d'attribution entraînèrent plusieurs campagnes de travaux et diverses démolitions, notamment celles de la chapelle et du passage menant à la cathédrale. En 1844, les travaux de la façade extérieure furent confiés à Daniel Ramée, attaché à la Commission des Monuments Historiques, qui chercha à restaurer l'état du palais antérieur aux transformations du 18e siècle.

Dès 1974, le Conseil général de l’Oise alloua plusieurs crédits au Musée départemental de l'Oise afin d’effectuer les travaux d'aménagement nécessaires à l’établissement de ses collections au sein de l'ancien palais épiscopal, laissé inhabité depuis le départ du tribunal de grande instance en 1973. Le nouveau musée ouvrit ses portes le 19 juin 1981.

Partie conservée la plus ancienne de l'ensemble canonial, la salle Saint-Pierre a été construite en pastoureaux, comme la Basse-Oeuvre, dans la première moitié du 11e siècle. Elle abritait, jusqu'à la Révolution, la bibliothèque et la salle d'archives du Chapitre. Le bâtiment, qui comptait à l'origine un rez-de-chaussée et un étage, a subi plusieurs incendies.

En 1846, on y installa la Cour d'Assises et le bâtiment fut agrémenté d'un porche néo-classique, puis un musée jusqu'en 1912, date à laquelle les collections furent déménagées à cause du mauvais état des bâtiments. Utilisé par les autorités militaires lors de la Première Guerre mondiale, il fut ensuite menacé de destruction avant d'être classé en 1927.

La salle du Chapitre, qui occupe le côté est du cloître, fut reconstruite au 16e siècle. Les arcades situées au rez-de-chaussée, murées après la Révolution, ont été dégagées en 1935 lors de la réfection du cloître. Une tourelle permettant de monter au premier étage et au grenier a été démolie par une bombe en 1940.

Le cloître canonial, au nord-ouest de la cathédrale, remonte au début du 15e siècle. La galerie sud et une travée de la galerie est furent construites sous l'épiscopat de Pierre de Savoisy (1398-1412). Le reste de la galerie orientale est occupé par la salle capitulaire bâtie au 16e siècle. En 1698, l'aspect du cloître a été modifié par l'ajout, au-dessus de la galerie sud d'un passage couvert, mettant en communication la cathédrale et le palais épiscopal. Il permettait à l'évêque de gagner directement la cathédrale depuis son palais grâce à une arche qui enjambait la rue. Pour consolider cette nouvelle construction on ajouta des contreforts, ainsi que des tirants en fer au niveau des arcades. En 1807, le cloître fut en partie muré pour le séparer de la Cour d'Assises et sa galerie sud servit de dépôt lapidaire lorsque la salle Saint-Pierre devint Musée municipal, jusqu'en 1912.

Abandonné et dans un état vétuste il fut restauré en 1935 grâce à l'abbé Tesson. Toutefois, le sol du jardin est encore exhaussé de plus de 60 cm.

D'autres bâtiments dépendant du chapitre ont disparu à la suite de la Révolution, notamment la tour qui servait de prison près du portail sud de la cathédrale. Le reste du quartier canonial a en grande partie disparu lors des bombardements de 1940.