Oprócz niego i Basiego w skład zespołu wchodzili także saksofonista Wardell Gray, klarnecista Buddy DeFranco, trębacz Clark Terry, gitarzysta Freddie Green, kontrabasista Jimmy Lewis i perkusista Gus Johnson. Następnie wrócił do Bostonu, gdzie grał w małych grupach w klubach, takich jak High Hat, Petty Lounge i Red Fox Cafe. Jego występy klubowe, łącznie z transmitowanym przez rozgłośnię WRIV koncertem w Celebrity Club w Providence na Rhode Island były rejestrowane. Wybrane utwory zostały wydane po latach na płycie CD, zatytułowanej Boston 1950. Gra w małych grupach dała mu przestrzeń do rozwinięcia nowego stylu. W 1951 powiedział: Odrzucam nic nieznaczące fajerwerki, które do tej pory cechowały moją grę, którą teraz wzbogacam o kolor i większą elastycznośćMax Harrison, Charles Fox, Eric Thacker, Essential Jazz Records – Volume 2: Modernism to Postmodernism, wyd. Mansell, 1999, .. Al Cohn stwierdził: Dopiero kiedy Serge opuścił duże zespoły, tak naprawdę zaczął rozwijać się jako solista.