La chiesa di Sant’Erasmo sorge in una splendida posizione, sospesa tra cielo e terra, su uno sperone di roccia con vista sulla conca ternana.
Fu un monastero benedettino dipendente da Montecassino, forse eretto nel XII secolo sul luogo ove sorgeva la Rocca di Cesi.
L'originale linea romanica risulta oggi notevolmente appesantita dagli accentuati contrafforti aggiunti successivamente sulle due fiancate.
La facciata ha un semplice portale a due rincassi; il timpano, delimitato da cornici scolpite, si apre in un occhio centrale chiuso da una transenna, costituita da due quadrilateri dai lati fortemente convessi e alternati, incentrati da una croce fogliata: è l'unico elemento decorativo dell'edificio.
L'abside pentagonale, ritmata da cinque lesene angolari, è ornata in alto da archetti e cornici dentellate.
L'interno, oggi spoglio, si presenta ad unica navata, con semplice copertura a capanna.
La zona presbiteriale è pavimentata con lastre di pietra, la zona anteriore con mattoni rettangolari o quadrati.
Sull'altare a ceppo, è presente una moderna copia del secentesco busto marmoreo raffigurante il Santo titolare.
Alla destra dell'entrata si trova un interessante rocchio di colonna sfaccettata, sul quale era posta l'acquasantiera.
All'esterno dell'edificio sono visibile le vere di due pozzi, che attingevano a cisterne sottostanti.