W 1951 Pius XII jednak zrezygnował z zamiaru wznowienia soboruSobór Watykański I [w:] Grzegorz Polak (red.), Wielka Encyklopedia Jana Pawła II, t. tom VI, 2005, s. 67, ..
28 października 1958 kard. Angelo Giuseppe Roncalli został wybrany papieżem i przyjął imię Jan XXIII. Już dwa dni później prowadził rozmowy na temat możliwości zwołania soboru. Papież 25 stycznia 1959 r. oficjalnie powiadomił kardynałów rzymskich o swojej decyzji zwołania soboru powszechnego. Jan XXIII postanowił jednak, że nie będzie to kontynuacja zawieszonego soboru watykańskiego I, ale będzie to kolejny sobór nazwany watykańskim II.
Powołano dziesięć komisji, sekretariaty ds. kontaktów z mediami, ds. kontaktów z innymi wyznaniami chrześcijańskimi oraz ds. nadzwyczajnych. Centralna Komisja koordynowała prace przygotowawcze. Rozpoczęto także budowę auli soborowej w nawie głównej bazyliki św. Piotra.