Uczęszczał do St. Mary’s Parochial School i Knoxville Catholic High School, był ministrantem w kościele Niepokalanego Poczęcia w Knoxville. Jako dziecko McCarthy nie widział żadnej wartości w szkole, wolał realizować własne zainteresowania. Raz opisał moment, w którym jego nauczyciel zapytał klasę o ich hobby. McCarthy odpowiedział ochoczo, jak to później ujął: „Byłem jedynym, który miał jakiekolwiek hobby, interesowałem się każdą możliwą rzeczą (...) wymień cokolwiek, nieważne jak ezoteryczne. Mógłbym oddać każdemu z klasy po jednym hobby i nadal miałbym 40 lub 50 do zabrania do domu”.
W 1951 roku zaczął uczęszczać na University of Tennessee (UTK), ale przerwał naukę w 1953 roku, aby wstąpić do United States Air Force. W trakcie stacjonowania na Alasce McCarthy z zapałem czytał książki, co, jak twierdził, zdarzyło mu się po raz pierwszy. Wrócił na UTK w 1957 roku, gdzie opublikował dwa opowiadania: Wake for Susan oraz A Drowning Incident w studenckim magazynie literackim The Phoenix pisząc pod nazwiskiem C. J. McCarthy, Jr. W 1959 i 1960 roku zdobył za nie nagrodę Ingram-Merrill Award.