Um 1200 wurde mit dem Bau der heutigen Kirche im Stil der Spätromanik begonnen, die bis etwa 1240 fertig gestellt war. Sie wurde als dreischiffige Pfeilerbasilika (Kirche mit höherem Mittelschiff als die Seitenschiffe), mit vorgelegtem Westwerk, Vierungsturm und Langchor errichtet. Es entstand keine einheitlich gestaltete Dreikonchenanlage wie etwa an St. Maria im Kapitol, Groß St. Martin oder St. Aposteln in Köln; stattdessen schlossen sich an die Querflügel Vorhallen an, durch deren östliche die Gläubigen die Kirche betraten. Die heutige westliche Eingangshalle bildete einen Teil des damaligen Kreuzganges, hier lagen auch die Gebäude der Stiftsherren. Die nördliche Vorhalle wurde zur heutigen Sakristei umgebaut, in der sich das romanische Löwenportal befindet.
Im 14. Jh. wurden die Seitenschiffmauern durchbrochen und gotische Kapellen angebaut. Im Jahre 1414 begannen die Chorherren, nach Abbruch des romanischen Ostchores und Zerstörung der Krypta, mit dem Bau des gotischen Hochchores nach dem Vorbild des Aachener Münsters.
Gegen Ende des 15. Jh. wurde auf dem runden, romanischen Sockel der nördlichen Konche ein spätgotischer, eckiger Oberbau errichtet. An Stelle der südlichen Konche entstand 1492 ein vollständig neues Querschiff. 1539 fügte man im Südwesten die Rosenkranzkapelle an.