Il suo nome si riferisce ai resti di mura megalitiche, di origine messapica (IV-III secolo a.C.), formati da una doppia cinta di blocchi di pietra, lunghi 2-3 metri. Poco fuori del paese si trova anche un antichissimo menhir, alto circa 3 metri e mezzo.
Nella piazza centrale sorge il palazzo del Principe, originario del XV secolo ma più volte ricostruito e oggi sede del Municipio. Al suo interno è allestito il Museo di Borgo Terra.
Nella stessa piazza è la parrocchiale dell'Annunziata, eretta nel 1680-93 sopra strutture di ben più antica origine, come testimonia la presenza di una cripta affrescata. Nell'interno, con ricchi altari barocchi nel transetto, sono custodite tele settecentesche di Liborio Riccio (in controfacciata e nel transetto) e Serafino Elmo (all'inizio delle navate minori e nel presbiterio).
Nella stessa piazza prospetta anche la chiesa dell'Immacolata, dall'ampia, scenografica facciata in stile rococò (1778) che si prolunga con due arconi. Al margine meridionale dell'abitato, isolata al centro di una piazza è la chiesetta di S. Marina, edificio bizantino eretto nel IX-XI secolo con blocchi delle mura messapiche. Al suo interno si conservano interessanti affreschi dei secoli XI-XV, alcuni dei quali bizantini, come i frammenti del più antico ciclo di S. Nicola databile intorno al 1040. Al margine settentrionale è invece la chiesa di S. Domenico o del Rosario, opera di Giovanni Tarantino (1583).
Il prospiciente palazzo del Principe ospita il Museo di Borgo Terra, dedicato allo sviluppo urbanistico.