Il complesso rupestre di San Nicola dei Greci e della Madonna delle Virtù ha ospitato per molti secoli comunità monastiche benedettine, chiaramente influenzate prima dalla cultura bizantina, poi da quella latina. Le cripte, tra loro collegate con due scalinate, testimoniano la diversa età attraverso le proprie differenti strutture.

San Nicola dei Greci (VIII sec.) presenta due navate parallele con pregevoli affreschi illuminanti le due cavità absidali. In particolare nell'abside della navata di destra appare una bella crocifissione fine XIV sec. mentre nella navata di sinistra sono ancora ben visibili le immagini di San Nicola (sec. XIV), Santa Barbara e San Pantaleone (sec. XI).

La struttura greca della cripta è poi esaltata dalla presenza dell'ambone ricavato nell'aula. Questo spazio è oggi completamente scoperto per il crollo del tetto di roccia avvenuto probabilmente subito dopo l'abbandono della chiesa (1700 circa). Al di sotto del pavimento dell'aula, in uno scavo eseguito nel 1977 dalla dott.ssa Canosa della Soprintendenza Archeologica, sono stati ritrovati, in una buca profonda quattro metri, reperti di grande interesse come il frammento risalente alla fase iniziale-media dell'età del bronzo (XVI sec. a.c.) le numerose ceramiche geometriche dell'VIII sec. a.C., i reperti di epoca romana repubblicana (I sec. a.C.) e quelli altomedievali rinvenuti negli strati più superficiali.

Nella chiesa e negli spazi antistanti sono visibili molte tombe di tipo barbarico mentre nelle grotte adiacenti si possono notare vasche di decantazione delle acque e pozzi "a pera" per la conservazione dei liquidi. In epoca normanna (XI sec.) il cenobio ebbe un notevole sviluppo e si ampliò nelle cavità rupestri lungo l'attuale via Madonna delle Virtù.

Fu cosi scavata la straordinaria cripta della Madonna delle Virtù da monaci ormai di cultura latina che riproposero nel cuore della roccia tufacea tutti gli elementi dell'architettura costruita: le colonne, i capitelli gli archi, le cupole, le bifore e, finanche, il matroneo scolpito sul soffitto a capanna della navata centrale.
Nel 1674 fu operato un intervento di ristrutturazione che cambiò l'asse della chiesa eliminando due pilastri. L'antico altare fu sostituito da uno nuovo in stile barocco che fu posto sotto l'arco della originaria navata destra.

Gli affreschi visibili sono due crocifissioni, una nell'abside della navata centrale (sec. XVI) e l'altra in fondo alla navata di destra (sec. XIV). Nel 1967 a cura e spese del Circolo "La Scaletta" la chiesa fu completamente restaurata riproponendo la originaria impostazione della pianta e dell'ingresso e ricostruendo l'altare nell'abside centrale.

Nel 1991 la cripta fu visitata da Sua Santità Giovanni Paolo II e dai Presidenti della Repubblica Italiana Oscar Luigi Scalfaro e Carlo Azeglio Ciampi rispettivamente nel 1995 e nel 2001. Dal 1987 le due chiese rupestri ed il monastero ospitano grandi mostre di scultura contemporanea. Le opere, inserite nel particolare ambiente rupestre, acquistano una cornice molto suggestiva ed emanano nuove ed inattese sensazioni.