Στην είσοδο του χωριού και κατευθυνόμενοι προς τα αριστερά πάνω από το γραφικό λιμάνι του Καψαλιού και σε υψόμετρο 100 μέτρων περίπου οδηγούμαστε στο μικρό εκκλησάκι του Αγ. Ιωάννη στο γκρεμό. Ανεβαίνοντας τα λίθινα σκαλοπάτια φτάνουμε στην είσοδο του ναού, όπου παρατηρούμε την επιγραφή του μοναχού Ιωαννικίου, ο οποίος ανακαίνισε το προσκύνημα το 1725. Ο ναός είναι χτισμένος μέσα σε μια μικρή σπηλιά όπου σύμφωνα με την παράδοση εδώ άρχισε ο Άγιος τη συγγραφή της Αποκάλυψης πριν πάει στην Πάτμο, διωκόμενος από την Ρώμη. Πάνω από τη θολωτή είσοδο είναι χτισμένος ο ξενώνας με δυο αίθουσες και μαγειρείο.
Ο αρχικός ξενώνας υπολογίζεται ότι κτίσθηκε πριν από 500 χρόνια και σε αυτόν καθώς και σε ένα-δυο μικρά κελιά ακόμη διέμεναν κάποτε 5-6 καλόγεροι. Συνεχίζοντας τα ανηφορικά σκαλοπάτια συναντάμε έναν αρχαίο μικρό ναό που κατά πάσα πιθανότητα ήταν έπ’ ονόματι του άγιου Ιωάννου του Πρόδρομου και λίγο παραπάνω καταλήγουμε στο σπήλαιο. Κατά τον 17ο αιώνα στο συγκρότημα του Ενγκρεμνού φαίνεται ότι υπήρχαν 2 ναοί, του Ιωάννου του Θεολόγου μέσα στο σπηλαίο και του Πρόδρομου παρακάτω στο γκρεμό.
Το μνημείο αυτό ερειπώθηκε λόγω των βαρβαρικών επιδρομών και της εγκατάλειψης και όταν ανακαινίσθηκε σε μεταγενέστερους χρόνους τον 18ο αιώνα φαίνεται ότι το σπήλαιο εγκαινιάσθηκε έπ’ ονόματι του Προδρόμου και έτσι ξεχάσθηκε η λατρεία του Θεολόγου με την οποίαν κατ’ εξοχήν είναι συνδεδεμένο το σπηλαίο, το οποίο αποτελείται από δυο χώρους. Ο πρώτος, περισσότερο ευρύχωρος μήκους 7 μέτρων είναι ο κυρίως ναός και ο δεύτερος, στενότερος και χαμηλότερος μήκους 20 μέτρων με πήλινες λεκάνες για να συγκεντρώνεται το νερό που στάζει από την οροφή του σπηλαίου. Στο ξύλινο τέμπλο δεξιά μια μικρή θυρίδα οδηγεί σε ένα στενό υπερώο όπου ήταν ασκητήριο.
Κατά το τέλος του 18ο αιώνα αρχές 19ου ηγούμενος στον Ενγκρεμνό διετέλεσε ο Άνθιμος Λεβούνης, μετέπειτα επίσκοπος Κυθήρων. Τελευταίος ηγούμενος διετέλεσε ο Κύριλλος Κεντρωτής στα χρόνια της Αγγλοκρατίας. Σήμερα ο ναός εορτάζει το Γενέθλιον του Προδρόμου στις 24 Ιουνίου και στις 29 Αυγούστου την Αποτομή της τιμίας κεφαλής του. Αξίζει να επισκεφθείτε τον ναό γιατί θα ανταμειφθείτε και από την εκπληκτική θέα του Καψαλιού του κάστρου και της Χύτρας παράλληλα!