Przykuty do wózka inwalidzkiego sporadycznie występował i nagrywał. Często także sięgał po alkohol, również w szpitalu. W styczniu 1957 zrealizował swoją ostatnią płytę, pt. Herb–Al–Zoot–Serge – The Four Brothers .... Together Again!. Natomiast w maju zagrał kilka koncertów w klubie The Stable, niedokończonych z braku sił.
15 lipca, będąc już w ciężkim stanie, został przyjęty do szpitala MGH. Zabrał ze sobą saksofon i ulubione zwierzątko – kinkażu, które dostał od matki „dla towarzystwa”. Powiedziano mi – wspominał Richard Chaloff – że zawieziono go do pustej sali operacyjnej, żeby mógł poćwiczyć. To był jego ostatni koncert, jego ostatni występ publiczny. (...) Pielęgniarki, lekarze, a nawet pacjenci stali na zewnątrz i słuchali jego barytonu. Do końca walczył z chorobą. Matka stale mu powtarzała: „Dasz radę!” Zmarł nazajutrz wskutek następstw wywołanych nowotworem. Miał 33 lata. Został pochowany na cmentarzu Forrest Hill w bostońskiej dzielnicy Jamaica Plain.