Ήταν το 537, λίγο μετά από την στάση του Νίκα και την καταστροφή του πρώτου ναού, που ο μεγάλος τρούλος της υψώθηκε στον ουρανό, τόσο επιβλητικός όσο και σήμερα.
Ο πρώτος ναός της Αγίας Σοφίας θεμελιώθηκε από τον Μεγάλο Κωνσταντίνο το 330 μ.Χ. όταν ονόμασε τη μετέπειτα Κωνσταντινούπολη πρωτεύουσα της Βυζαντινής Αυτοκρατορίας. Η ανέγερση του ναού ολοκληρώθηκε από τον γιο του Κωνστάντιο και τα εγκαίνια έγιναν το 360.
Κατά την εποχή του Αρκαδίου, το 404, η πρώτη Αγιά Σοφιά πυρπολείται και θα κτισθεί εκ νέου από τον Θεοδόσιο Β’. Τα εγκαίνια θα γίνουν στις 10 Οκτωβρίου του 415, όμως ο ναός θα πυρποληθεί και πάλι το 532, κατά τη Στάση του Νίκα.
Έτσι, ο αυτοκράτορας Ιουστινιανός Α’ αποφασίζει να κατασκευάσει την εκκλησία από την αρχή, στον ίδιο χώρο, αλλά πολύ πιο επιβλητική, για να δεσπόζει στη Βασιλεύουσα. Τα θεμέλια αυτού του μεγαλοπρεπή ναού θα μπουν στις 23 Φεβρουαρίου του 532, με σχέδια που εκπόνησαν οι αρχιτέκτονες Ανθέμιος Τραλλιανός και Ισίδωρος ο Μιλήσιος.
Για την ολοκλήρωση του κολοσσιαίου έργου δούλεψαν αδιάκοπα επί έξι χρόνια 10.000 τεχνίτες, ενώ ξοδεύτηκαν 320.000 λίρες. Από κάθε σημείο όπου υπήρχε Ελληνισμός, έγινε προσφορά: Τα πράσινα μάρμαρα από τη Μάνη και την Κάρυστο, τα τριανταφυλλιά από τη Φρυγία και τα κόκκινα από την Αίγυπτο. Από τον υπόλοιπο κόσμο προσφέρθηκαν τα πολύτιμα πετράδια, ο χρυσός, το ασήμι και το ελεφαντόδοντο, για τη διακόσμηση του εσωτερικού.
Τα εγκαίνια έγιναν στις 27 Δεκεμβρίου του 537 από τον Ιουστινιανό, ο οποίος βλέποντας την υπεροχή της Αγίας Σοφίας έναντι του ξακουστού ναού του Σολομώντα, αναφωνεί:
«Δόξα των Θεώ το καταξιωσάντι με τελέσαι τοιούτον έργον. Νενίκηκά σε Σολομών».