W kwietniu 1910 został wyświęcony na apostoła i włączony do Kworum Dwunastu Apostołów. Wzbudziło to pewne kontrowersje i spotkało się z oskarżeniami o nepotyzm, bowiem prezydentem Kościoła był wówczas ojciec Smitha. Zasiadał w tym gremium dłużej niż jakikolwiek inny apostoł w historii Kościoła. Przeżył jednocześnie piętnastu mężczyzn wyświęconych na apostołów po nim. W październiku 1950 poparty jako tymczasowy przewodniczący Kworum Dwunastu Apostołów, 9 kwietnia 1951 natomiast już jako jego stały przewodniczący. Dodatkowo, 29 października 1965 zasiadł w Pierwszym Prezydium, jako dodatkowy doradca ówczesnego przywódcy Kościoła.
Pomimo zaawansowanego wieku wyświęcony na prezydenta 23 stycznia 1970, zastąpił zmarłego pięć dni wcześniej Davida O. McKaya. Przejęcie przez niego rządów w prasie mormońskiej postrzegano jako pomost między współczesnością a początkami Kościoła. Relatywnie krótka, dwuipółletnia prezydentura Smitha przyniosła znaczącą intensyfikację pracy misyjnej, reorganizację systemu szkół niedzielnych oraz konsolidację oficjalnych mormońskich publikacji prasowych. Poświęcono jednocześnie w tym czasie świątynie w Provo i w Ogden, dokonano także pewnych zmian w systemie komunikacji wewnętrznej użytkowanym przez Kościół.