Ο ακριβής χρόνος ίδρυσης της μονής της Παναγίας Σουμελά δεν είναι γνωστός.
Κατά μία άποψη, που συνοδεύεται και από στοιχεία παράδοσης, η μονή ιδρύθηκε τα τέλη του 4ου αιώνα στο όρος Μελά της Τραπεζούντας. Ιδρυτές θεωρούνται δύο καλόγεροι από την Αθήνα, ο Βαρνάβας και ο Σωφρόνιος, που πήγαν στον Πόντο παρακινημένοι από ένα όνειρο που είδαν.
Σύμφωνα με την παράδοση, η εικόνα που τοποθέτησαν στη μονή οι δύο καλόγεροι ήταν ζωγραφισμένη από τον ευαγγελιστή Λουκά και βρισκόταν προηγουμένως στην Αθήνα, εξού και η αρχική της ονομασία, Παναγία Αθηνιώτισσα.
Η μονή διαδραμάτισε σημαντικό ρόλο τόσο στην ανάπτυξη του πολιτισμού και των γραμμάτων στον Πόντο όσο και σε κοινωνική προσφορά και περίθαλψη των Ποντίων κατά τα δύσκολα χρόνια των τουρκικών διώξεων.
Στα νοτιοανατολικά του Βυζαντινού Δικαιόσημου, ή αλλιώς, Ματσούκας, σημερινής Maçka, εκτείνεται η κοιλάδα με το φαράγγι της Παναγίας που την διατρέχει το ομώνυμο ποτάμι.
Η κοιλάδα είναι υποβλητικότατη και κατάφυτη από ωραία ροδόδεντρα, την ποντική αζαλέα, και από πυκνό δάσος πεύκης, κλέθρου, πτελέας, σφενδάμου, κρανέας, μυρσίνης, ελάτης και πύξου, από την οποία πύξο, πήρε το όνομά του και ο Πυξίτης ποταμός που πήγαζε από τα υψίπεδα του όρους Κολάτ, μικρό τμήμα του οποίου αποτελούσε και το ποτάμι της Παναγίας.
Πάνω από αυτό το ποτάμι, σε βράχο του όρους Μελά, κυριολεκτικά κρεμιέται η μονή της Υπεραγίας Θεοτόκου του Μελά (Σουμελά = Στου Μελά).
Εδώ, κατά την παράδοση, εναπόθεσαν την εικόνα της Θεοτόκου, όπως προαναφέρθηκε, οι μοναχοί Βαρνάβας και Σωφρόνιος οι Αθηναίοι, οι οποίοι είναι άγνωστο πότε ήρθαν στη δυσπρόσιτη και αφιλόξενη αυτή περιοχή της Τραπεζούντας.
Κατά την παράδοση αυτό συνέβη στα χρόνια του Μεγάλου Κωνσταντίνου. Στη διήγηση, όμως, του ταξιδιού τους, περιγράφονται εικόνες και συμβάντα του Βυζαντίου που αντιστοιχούν στα χρόνια της Μακεδονικής Δυναστείας.
Και είναι πιθανό η εγκατάστασή τους στην περιοχή να χρονολογείται περί τον 10o αιώνα.
Ακούγεται λογικό, διότι ο τόπος την περίοδο αυτή είχε ηρεμήσει από τους βαρβάρους, μέχρι να κάνουν την εμφάνισή τους οι τουρκομανικές φυλές και κυρίως οι Σελτζούκοι Τούρκοι του Ικονίου ή οι γειτονικοί Τζάνοι και Τσεπνήδες, ορεσίβιες φυλές που συχνά απειλούσαν τους χριστιανικούς πληθυσμούς.
Ο Ανδρόνικος ο Γίδων και οι μετά αυτόν αυτοκράτορες αναδιοργάνωσαν την άμυνα των ορεινών περασμάτων, ενδυνάμωσαν τα υπάρχοντα φρούρια και έκτισαν νέα. Ενίσχυσαν την ασκητική πολιτεία του Όρους Μελά και ίδρυσαν ένα οργανωμένο μοναστικό κέντρο που θα έλεγχε τα ορεινά περάσματα και τις Πύλες του Πόντου.
Σημαντικότερος δωρητής και ευεργέτης υπήρξε αναμφίβολα ο αυτοκράτωρ Αλέξιος Γ΄, ο επιφανέστερος ίσως των Μεγάλων Κομνηνών, που βασίλευσε από το 1349 μέχρι το θάνατό του το 1390.
Σύμφωνα με την παράδοση, η γαλέρα που μετέφερε από την Κωνσταντινούπολη τον Αλέξιο τον Μέγα Κομνηνό, καθώς περιέπλεε τα Πλάτανα, έπεσε σε θαλασσοταραχή. Ο Αλέξιος ζήτησε τη βοήθεια της Παναγίας, η οποία του παρεσχέθη.
Ο σεβασμός του Αλέξιου φαίνεται στον χρυσόβουλο λόγο που εξέδωσε υπέρ της μονής το 1364.
Το χρυσόβουλο αυτό πρώτος δημοσίευσε ο Jakob Philipp Fallmerayer ως αυθεντικό, ενώ ο Επαμεινώνδας Κυριακίδης με τον μητροπολίτη Χρύσανθο το θεωρούν αντίγραφο του πρωτοτύπου. Ο Fallmerayer, μάλιστα, μέμφεται τους μοναχούς της Σουμελά για την αδιαφορία τους απέναντι στους κώδικες και τα χειρόγραφα.
Το προνομιακό καθεστώς της μονής αποδέχθηκαν και οι Οθωμανοί κατακτητές μετά το 1461.
Ο Σουλτάνος Σελίμ Α΄ (1467-1520), γιος και διάδοχος του σουλτάνου Βαγιαζίτ Β΄ και της Γκιουλμπαχάρ Χατούν, της Τραπεζούντιας κόρης Μαρίας, δώρησε στη μονή πέντε λαμπάδες, ενώ επικύρωσε και ανανέωσε με χατί σερίφ (αυτοκρατορικό διάταγμα) τα προνόμια που είχαν παραχωρηθεί στη μονή από τους Κομνηνούς αυτοκράτορες.
Μετά το 1923 και το διωγμό των Ελλήνων από την περιοχή, οι Τούρκοι πήραν τα χειρόγραφα και τα ιερά κειμήλια της μονής. Για ένα διάστημα η μονή έγινε καταφύγιο λαθρεμπόρων, τα δε ξύλινα τμήματά της πυρπολήθηκαν το 1930.
Από τα κειμήλια του μοναστηριού τελικά σώθηκαν τρία που θεωρούνται τα πιο σπουδαία: η περίφημη εικόνα της Παναγίας, ο σταυρός που δώρησε στη μονή ο αυτοκράτορας Μανουήλ Γ΄ (1390-1417) και το ευαγγέλιο του Οσίου Χριστοφόρου.
Τα είχαν κρύψει σε παρακείμενη της μονής περιοχή οι καλόγεροι μετά την αναχώρησή τους το 1924. Το 1931 ο Ελευθέριος Βενιζέλος, με γράμμα του προς τον Ισμέτ Ινονού, πρωθυπουργό τότε της Τουρκίας, πέτυχε να δοθεί άδεια στον ιερομόναχο Αμβρόσιο Σουμελιώτη να πάει στη μονή, να βρει τα κειμήλια και να τα φέρει στο Βυζαντινό Μουσείο.
Το 1951 οι Πόντιοι μετέφεραν την εικόνα της Παναγίας Σουμελά από το Βυζαντινό Μουσείο στο νέο μοναστήρι της Παναγίας Σουμελά που ανιστορήθηκε στις πλαγιές του Βερμίου.