W wyniku najazdu tatarskiego Sandomierz został zniszczony, a odbudowa grodu w 1289 roku lokalizację miasta usytuowała bliżej skarpy wiślanej. Współczesne Stare Miasto Sandomierza nie jest więc jego najstarszą częścią. Rynek Starego Miasta jest typowym przykładem zabudowy renesansowej. Ta zawiłość doprowadza do sytuacji, w której Wzgórze Jakubowe określane jest potocznie jako Stare Stare Miasto, a Rynek Starego Miasta jako Nowe Stare Miasto. Świątynia położona jest przy ulicy Staromiejskiej 3.
Historia Pierwsza świątynia mały|Wygląd kościoła przed 1900 thumb|Widok w stronę chóru Współczesny kościół św. Jakuba stoi na miejscu jeszcze wcześniejszej świątyni. W związku z tym, iż brak źródeł pisanych na ten temat, istnieje domniemanie, że drewniana kaplica mogła powstać w czasach chrystianizacji Polski (pewne jest, że po 966 roku w Sandomierzu powstały murowane kościoły św. Jana i św Mikołaja, brak źródeł na istnienie w tym czasie murowanej świątyni jakubowej). Świątynia z całą pewnością związana była ze szlakami św. Jakuba, gdyż na odcinku Sandomierz-Kraków znajduje się w linii prostej 7 kościołów pw. św. Jakuba w odległości co ok. 30 km (największe nasilenie pielgrzymkowego ruchu w ramach Camino de Santiago datuje się na XI–XIV wiek).