Początkowo nie miał dobrych relacji ze starszym o sześć lat Johnnym. Był zazdrosny, że ojciec podarował bratu klarnet, a na perkusję dla niego nie chciał się zgodzić ze względu na hałas w domu. W końcu ustąpił, ale pod warunkiem, że „Baby” sam zapracuje na instrument. Zanim zgromadził odpowiednia sumę, samodzielnie zbudował do ćwiczeń zestaw „bębnopodobny”. Po zakupie prawdziwej perkusji zaczął dodatkowo pobierać prywatne lekcje gry na niej u zawodowych instrumentalistów – Dave’a Perkinsa i Waltera Bundy’ego, który przekazał mu także umiejętność czytania nut.
Szybko się uczył i niebawem rozpoczął pracę w zespołach grających na paradach ulicznych oraz orkiestrach tanecznych. W owym czasie występował u boku wielu artystów prejazzowej sceny Nowego Orleanu. Byli to m.in. Frankie Duson, „Papa” Celestin, Willie Hightower, Fate Marable i Bunk Johnson, z którym ponownie spotkał się niemal trzydzieści lat później. W 1919 podjął pracę na statkach wycieczkowych w orkiestrze Marable’a, Grał w niej również jego brat. Nadal dzieliła ich niezgoda, albowiem abstynent Johnny zarzucał „Babe’owi” opilstwo. Z czasem jednak ich wzajemne stosunki uległy radykalnej poprawie. Na statku poznał Louisa Armstronga. W 1921 obaj odeszli z zespołu podobno wskutek nieporozumień z bandliderem, dotyczących stylu granej muzyki.