Karierę zawodowego muzyka rozpoczął w 1929, grając w Detroit i Toledo w zespołach Lawrence’a „Speeda” Webba i Miltona Seniora. Następnie przeniósł się do Chicago, gdzie jako młody talent fortepianu występował u boku takich liderów hot jazzu jak Erskine Tate, Eddie Mallory, Clarence Moore, Jimmie Noone, a przede wszystkim Louis Armstrong. W tym czasie często bywał na koncertach Earla Hinesa, występującego w Chicago z jego Grand Terrace Cafe OrchestraUniversity of Chicago Library – Grand Terrace Ballroom [dostęp 2011-08-17]. Pianistyka Hinesa miała duży wpływ na grę Wilsona w początkach jego kariery.
W 1933 Wilson przeniósł się do Nowego Jorku, aby dołączyć do „orkiestry muzyków”Answers.com – Benny Carter [dostęp 2011-08-17] Benny’ego Cartera, The Chocolate Dandies. Mimo dobrych recenzji big-band nie odniósł sukcesu komercyjnego i w 1934 został rozwiązany. Wilson dołączył wówczas do zespołu wibrafonisty, Reda Norvo, a następnie do orkiestry Williego Bryanta. Grał w niej do 1935, kiedy poznał Benny’ego Goodmana, który zaprosił go do swojego tria (Goodman, Wilson, Krupa). Trio występowało podczas przerw w koncertach big-bandu „Króla Swingu”, a grający w nim Wilson stał się pierwszym czarnym muzykiem, z którym Goodman występował dla publiczności.