Πρόκειται για μία από τις πιo διάσημες εκκλησίες του Αιγαίου έχοντας πάρει την ονομασία της από το γεγονός ότι βρίσκεται κοντά στη μικρή πύλη του κάστρου, το «παραπόρτι». H μοναδικότητά της έγκειται στο γεγονός ότι στεγάζει πέντε παρεκκλήσια, τα οποία κάποτε αποτελούσαν μέρος του κάστρου κατά τους μεσαιωνικούς χρόνους.
Τα πέντε παρεκκλήσια είναι οργανωμένα σε βαθμίδες, με τα τέσσερα να βρίσκονται στο ισόγειο και το πέμπτο, η Παναγία Παραπορτιανή, σκαρφαλωμένο στην κορυφή τους που μοιάζει με τρούλο. Μεταξύ αυτών, το παλαιότερο είναι η εκκλησία των Αγίων Αναργύρων, που πιστεύεται ότι χτίστηκε είτε τον 15ο είτε τον 17ο αιώνα. Τα υπόλοιπα παρεκκλήσια-Αγία Αναστασία, Άγιος Σώζων και Άγιος Ευστάθιος-ολοκληρώθηκαν στις αρχές του 20ού αιώνα.
