Na początku lat 20. XX wieku był już muzykiem zawodowym. Grał w klubach Chicago. W 1927 nagrał dla wytwórni Paramount Records skomponowany przez siebie utwór Honky Tonk Train Blues, który z czasem przeszedł do klasyki gatunku. Nie będąc jednak wirtuozem, pozostawał na drugim planie chicagowskiej sceny bluesowej i jazzowej. Przez pewien czas dorabiał nawet w myjni samochodowej. Dopiero w 1935 sytuacja uległa zmianie. Wtedy ponownie nagrał Honky Tonk Train Blues. Wydany przez Parlophone utwór, usłyszał producent muzyczny i „łowca talentów” John Hammond, i załatwił mu angaże w Nowym Jorku. W 1938 zagrał na koncercie „From Spirituals to Swing”, zorganizowanym przez Hammonda w Carnegie Hall. Wystąpił razem z innymi czołowymi przedstawicielami boogie-woogie: pianistami Pete’em Johnsonem i Albertem Ammonsem, swoim przyjacielem, oraz wokalistą Big Joe Turnera. Koncert ów wywołał wielką modę na muzykę boogie-woogie. W tym okresie już regularnie pracował. Występował w duetach z Ammonsem i Johnsonem. Grali również we trzech jako The Boogie-Woogie Trio, Przez pewien czas byli zatrudnieni w nowojorskim klubie nocnym Café Society. Jeździli razem również w trasy koncertowe.