Il museo si caratterizza per la sua duplice realtà di area archeologica e sede museale (la prima chiesa di S. Anastasio risulta già attestata in un documento del 793). La cripta mostra una ricca stratificazione di testimonianze archeologiche; il nucleo più antico (XI secolo) presenta colonne e capitelli di recupero di età romana e altomedievale, mentre gli ampliamenti a est e a ovest videro l'impiego di colonne e capitelli in arenaria appositamente realizzati. Negli ambienti contigui alla cripta sono visibili tracce di pavimentazione romana, resti della prima chiesa romanica e della più ampia basilica dell'inizio del XII secolo. Nell'adiacente museo sono esposti reperti lapidei decorati provenienti da chiese e altri edifici cittadini dall'VIII al XVI secolo. La collezione principale del museo è costituita da una serie di capitelli in arenaria della seconda chiesa romanica di S. Anastasio. Di particolare interesse il paliotto d'altare un tempo in S. Pietro in Consavia, i conci d'arco scolpiti, le pietre cantonali e le targhe araldiche da case-forti e palazzi signorili della città