Църквата е построена върху основите на няколко по-стари църкви от времето на римския град Сердика (София), разрушени от набезите на готите и хуните. През 2-ри век на това мястото е имало римски театър. Пърез следващите векове са били издигани последователно няколко храма. Църквата представлява кръстокуполна базилика с нартекс, три кораба и тристенна апсида (архитектура).
Историята на Сердика е тясно свързана с храма „Света София“, посветен на [[Света София (светица). Това е най-древната светиня на града, построена в най-високата му по онова време част и го прочула надалеч из Римска империя. Първият раннохристиянски храм е издигнат вероятно в началото на 4-ти век, веднага след Константин I Велики, недалеч от античната арена на Сердика, където са загинали християнски мъченици. Част от останките на построената през II век арена са в непосредствена близост, под сегашния “Хотел Арена” и “Гьоте институт” и сред източния езически и християнски некропол на Сердика. Вероятно е предназначена да бъде мартириум (параклис на гроба на мъченици) или гробищна църква (там по-късно е намерен сребърен реликвиар. Построяването на тази, а не е изключено и на следващата църква на това място,едва ли е станало без одобрението и подкрепата на император Константин I Велики, който често е ревидирал в града.
Най-старата по-голяма църква на същото място, чийто под с римски мозайки е запазен до днес, е базилика от средата на 4-ти век. През 343 г. тя става седалище на известния Църковен събор Сердикийски събор. До 6 век в сградата са направени множество промени и основни престроявания. В средата на века църквата е така пострадала от нашествията на на хуни и готи, че император Юстиниян І/Юстниниян Велики заповядва тя да се изгради отново като голяма базилика, посветена също на Божията премъдрост. Смята се, че от тогава вече над 1400 години тя неотменно носи това име. Предполага се, че нейната архитектура е резултат на грузинско влияние на имперски и строителни първенци произхождащи от тези кавказки земи. След 809 г. когато хан Крум включва Средец в държавната територия на България и особено след покръстването и през цялото българското средновековие храмът продължава активно да се използва предимно като градска съборна църква и обичайно място за погребения, поради близостта на градския некропол. По времето на Второто българско царство (12-14 век) тя придобива статута на катедрална митрополитска църква.
След османското нашествие базиликата е превърната в джамия — издигнати са минарета и са унищожени уникалните стенописи (открити са следи на такива от XII век, предхождащи тези от Боянската църква). Най-вероятно сградата за пръв път е разрушена по време на земетресението от средата на 15 век. В края на 16 век тя е отново възстановена като джамия от османския велик везир от хърватски произход Сиявуш паша.[1] Отново през 1818 г. и 1858 г. сградата пострадва сериозно от силни земетръси, минарето пада и сред турците се пуска мълвата, че са разгневили гяурския Господ и джамията е окончателно изоставена. Оцелялата част е превърната на склад и се използва като такъв до Освобождението, когато на 4 януари 1878 г. пред сградата с благодарствен молебен тържествено са посрещнати войските на руските освободители на генерал Гурко.
Църквата днес няма камбанария. Камбаната ѝ е окачена на високо вековно дърво в градината пред входа. Твърди се, че това е знак на почит и памет именно на освобождението от османско робство, защото камбаната е биела точно оттам на благодарствения молебен при посрещането на руснаците.
За кратко към края на 19 век сградата е била използвана като наблюдателната кула на столичната пожарна команда. Първото съвременно възстановяване и основна реконструкция на храма приключва през 1930 г. На 21 септември същата година църквата е осветена. През 1935 г. се извършва системно проучване и реставрация под ръководството на професор Богдан Филов и архитект Александър Рашенов. През 1955 г. храмът, както и другата по-стара от нея сграда оцеляла от римската епоха на Сердика ротондата „Св. Георги“, е обявен за паметник на културата. Днес храмът е възстановен като трикорабна кръстокуполна базилика с три масивни олтара. Църковните ритуали при избирането на българските патриарси в ново време са свързани с този древен храм.
Археологическите проучвания, а и случайни изкопи непрестанно разкриват нови страни на християнската древност съхранили се тук. През 80-те и 90-те години на 20 век след като църквата отново е реставрирана и консервирана с образ най-близък с късноантичния и средновековен оригинал, а на южната ѝ фасада е изграден главният официален мемориал на Република България – Паметника на незнайния войн („Вечният огън“), най-неочаквано под нея и в непосредствена близост са открити още няколко гробници и катакомби. Това дава ход на сложен и дългогодишен архитектурно-исторически проект за подробно изследване, реставрация и експонация на целия християнски култов комплекс.
Днес базиликата „Света София“ е една от най-значимите архитектурни ценности запазени от ранното християнство в Югоизточна Европа със световно значение.