Καταγόταν από την Αντιόχεια· επονομάσθηκε Ιεροσολυμίτης, επειδή έμεινε αρκετό καιρό στην αγία Πόλη. Από εκεί ήλθε και μόνασε στην Κωνσταντινούπολη. Υστερούσε σε γραμματική μόρφωση.
Τον στόλιζε όμως άδολη ευσέβεια και βαθειά και ειλικρινής αρετή και τον αγαπούσαν για την ευθύτητά του, χαρακτήρα του και την απλότητα των ηθών του. Όταν στις 2 Αυγούστου 1075 πέθανε ο Πατριάρχης Ιωάννης ο Η’, ο αυτοκράτωρ Μιχαήλ Δούκας έφερε στο θρόνο τον Κοσμά, αν και ήταν ήδη πολύ γέρος.
Επί της πατριαρχείας του, η αρχιεπισκοπή Πατρών προήχθη σε Μητρόπολη με τρεις επισκοπές στη δικαιοδοσία της. Επίσης ο ίδιος – ο Κοσμάς – χειροτόνησε και έστειλε το 1080 Μητροπολίτη Ρωσίας τον Έλληνα Ιωάννη, άνδρα κάτοχο μεγάλης μόρφωσης και πολλών αρετών.
Οι δυσκολίες όμως της διοίκησης της πατριαρχείας, έκαναν τον απλοϊκό χαρακτήρα του Κοσμά, να επιθυμήσει την ησυχία και τη γαλήνη της πρώην μοναχικής του ζωής.
Γι’ αυτό λοιπόν, στις 8 Μαΐου του 1081, αφού λειτούργησε στο ναό του Αγίου Ιωάννου του Θεολόγου, έφυγε μαζί με τον υπηρέτη του και αποσύρθηκε στη Μονή Καλλίου στην Κωνσταντινούπολη. Μάταια τον παρακάλεσαν να επιστρέψει.
Αυτός έμενε αμετάπειστος και πέθανε στη Μονή εκείνη.
