La Collegiata di Sant’Orso sorge sopra la chiesa Paleocristiana cruciforme di San Lorenzo, suo embrione. La chiesa romanica come la conosciamo oggi si iniziò a costruire nel IX secolo ed attualmente ingloba anche la torre campanaria, che in origine faceva anche parte di una cinta muraria. e il chiostro.

L’interno dell’edificio è composto da tre navate concluse da absidi semicircolari. Di notevole pregio artistico è il coro ligneo, il ciclo di affreschi del XI secolo e un mosaico pavimentale di forma quadrata e di tessere bianche, nere e marroni la cui raffigurazione principale vede Sansone che uccide il leone.
Il gioiello del complesso monumentale di Sant’Orso è il chiostro risalente al 1132, opera di maestranze provenzali e/o lombarde.

La forma che conosciamo oggi viene assunta grazie all’imposizione di Papa Innocenzo II della regola di Sant’Agostino ai canonici di Sant’Orso, in quanto, i capitelli, scolpiti già in precedenza in marmo e ricoperti di vernice nera, vennero usati come base per altorilievi che raffigurano le parabole del Nuovo e del Vecchio Testamento, la vita di Sant’Orso, personaggi così come animali fantastici ed elementi decorativi variegati.
È considerato un capolavoro della scultura romanica. All’interno del chiostro, inoltre, vi è un bellissimo tiglio secolare.