W 1934 roku pojawił się na Broadwayu w komedii szekspirowskiej Poskromienie złośnicy, a potem także w spektaklach: Trojanki (1940), Listopadowi ludzie (1977), Southern Exposure (1950) i Śmierć komiwojażera (1948).
W czasie II wojny światowej służył jako bombardier z United States Army Air Forces i przez krótki okres bił się z myślami o zostaniu profesjonalnym piłkarzem; rzekomo miał podpisany kontrakt z Detroit Tigers aż do śmierci.
W 1945 roku podpisał kontrakt z MGM. Debiutował jako podporucznik marynarki George Cross w dramacie wojennym Johna Forda Ci, których przewidziano na straty (They Were Expendable, 1945) u boku Roberta Montgomery i Johna Wayne’a. W 1951 podpisał długoterminowy kontrakt z 20th Century Fox.
W latach pięćdziesiątych XX wieku Mitchell grał sympatycznych bohaterów, skromny biznesmen w komedii Jak poślubić milionera (1953) czy Jigger Craigin w musicalu Henry’ego Kinga Carousel (1956). Jego najlepszym występem, zdaniem fanów i krytyków, była postać Barneya Rossa, boksera uzależnionego od narkotyków w dramacie biograficznym André de Toth Małpa na plecach (Monkey on My Back, 1957) u boku Brada Harrisa i Kathy Garver.