Po roku pracy w Piedmont przeniósł się do Pittsburgha i zaangażował w zespole Billa Paige’a Broadway Syncopators, z którym w marcu 1923 przyjechał do Nowego Jorku. Jeszcze w tym samym roku poznał Fletchera Hendersona, który zaprosił go do wspólnych nagrań, a na początku 1924 przyjął do swojej nowo formowanej orkiestry. W zespole grał na instrumentach stroikowych. Był także głównym aranżerem big-bandu, przedstawiając nowatorskie, wczesnoswingowe rozwiązania w tym zakresie. W czerwcu 1927, ku zaskoczeniu Hendersona, odszedł z orkiestry. Za namową bandlidera Jeana Goldkette’a przyjął bowiem propozycję poprowadzenia w Detroit zespołu McKinney’s Cotton Pickers. Niemal nieznana dotąd formacja wkrótce stała się konkurencją dla big-bandu Hendersona. Ponadto w 1928 aranżował i nagrywał utwory z grupą Louisa Armstronga The Savoy Ballroom Five.
W 1931 założył własną orkiestrę, z którą stale występował w klubie Connie’s Inn w nowojorskim Harlemie. Prowadził ją do stycznia 1940. W tym czasie był wziętym aranżerem, pisząc orkiestracje na potrzeby filmu oraz licznych wykonawców – solistów oraz bandliderów takich jak Bing Crosby, Ben Pollack i Paul Whiteman. W 1933 z udziałem jego i orkiestry powstał film krótkometrażowy zrealizowany przez wytwórnię Warner Bros. przy użyciu nowego wówczas systemu dźwiękowego Vitaphone.