Parte integrante di un complesso monastico Agostiniano, insediatosi nella piana della città nel XII°sec. subito a ridosso della cinta muraria a contatto dell'antica via Francigena, ovvero l'arteria principale di passaggio di migliaia di pellegrini indirizzati verso i grandi e prestigiosi centri di culto cristiano, il chiostro con le sue arcate a tutto sesto, le sue eleganti colonnine e, soprattutto, i suoi capitelli istoriati costituisce uno splendido esempio di arte romanica lombardo-catalana-provenzale e non a torto ritenuto oggi in Italia, secondo solo al più imponente e famoso chiostro del complesso di Monreale vicino a Palermo.

Rimaneggiato nel XV° sec., conserva 39 degli originali 52 capitelli realizzati in marmo bianco a sua volta policromo nelle diciture identificative dei soggetti o delle scene a cui si ispirano, poggianti su stilos (colonne) di colore scuro ovvero marmo bardiglio della località valdostana di Aymavilles, molto utilizzato in epoca imperiale romana per la copertura degli imponenti monumenti. Agli stessi capitelli, nel XVII° sec. venne artificialmente data una mano di un composto colloso trasparente misto a cenere che ossidandosi, con il tempo li ha definitivamente scuriti. Costituiscono, con la loro espressività, un raro esempio di "poema marmoreo" fatto di scene diverse tratte dall'Antico Testamento, dalla vita di Gesù e da quella degli Apostoli, ma anche episodi della vita di Sant'Orso uniti a soggetti moraleggianti anche di cultura pagana (favole di Esopo).

La lapide del vescovo Gallo (529-546), ritrovata nel 1300, così come quella dei vescovi Agnello e Grato (patrono della Valle d'Aosta) sono conservate nella basilica paleocristiana a pianta cruciforme del V secolo che si trova sotto l'attuale chiesa sconsacrata di San Lorenzo.