Dzisiejsza katedra stoi na wzgórzu, które od ponad tysiąca lat pełni funkcję sakralną.
 W X i XI wieku znajdował się tam drewniany kościół pw. św. Mikołaja. Rozebrano go pod koniec XI wieku, a w drugiej połowie XII wieku, z fundacji Kazimierza Sprawiedliwego, wzniesiono romańską kolegiatę pw. Narodzenia Najświętszej Maryi Panny. Świątynię poświęcono w 1191 roku, jednak została zniszczona podczas najazdu tatarskiego w 1259 roku.
Obecna katedra powstała w XIV wieku z fundacji Kazimierza Wielkiego. Budowę zakończono około 1360 roku, a uroczysta konsekracja odbyła się w 1382 roku. Kolejne stulecia przyniosły następne rozbudowy – w połowie XV wieku dobudowano kaplicę Mansjonarską, dziś znaną jako kaplicę Najświętszego Sakramentu.
W 1717 roku do kolegiaty przeniesiono parafię z kościoła św. Piotra, a po utworzeniu w Sandomierzu stolicy biskupiej w 1818 roku, kościół zyskał rangę katedry. W 1960 roku papież Jan XXIII nadał jej tytuł bazyliki mniejszej. W XX wieku zmieniała się także struktura parafialna – m.in. w 1934 roku biskup Włodzimierz Jasiński przeniósł parafię do kościoła św. Józefa, a w 1982 roku bp Edward Materski utworzył ponownie parafię katedralną.
Podziemia służyły jako miejsce pochówku już w średniowieczu. Chowano tam duchownych, rajców, fundatorów ołtarzy, członków bractw religijnych oraz zasłużonych mieszczan. W 1260 roku, po najeździe tatarskim, spoczęli tam sandomierzanie zamordowani podczas ataku.
Z biegiem lat krypty wypełniały się kolejnymi trumnami, co doprowadziło do chaosu. W 1843 roku Kapituła Katedralna zdecydowała o uporządkowaniu wnętrz i przeniesieniu wszystkich szczątków do wspólnej mogiły obok katedry. Do dziś upamiętnia ją prosty, drewniany krzyż.
Po porządkach podziemia przeznaczono głównie na groby biskupów. Pierwszym, który spoczął w krypcie, był Adam Prosper Burzyński – misjonarz pracujący wcześniej w Egipcie i Syrii. Wraz z nim w podziemiach pochowani są m.in. bp Jan Kanty Lorek, Piotr Gołębiowski oraz bp Wacław Świerzawski, zmarły w 2017 roku.
Dziś zmarli biskupi spoczywają w zamurowanych niszach, a ściany zdobią ich portrety i tablice upamiętniające.
Krypty sandomierskiej katedry można zwiedzać do 8 listopada, codziennie w godzinach 10–18. To jedyna taka okazja w roku, by zajrzeć do wnętrza jednego z najcenniejszych sakralnych miejsc w regionie, niosącego w sobie ponad tysiąc lat historii.