Zmarł na zapalenie otrzewnej w następstwie przechodzonego zapalenia wyrostka robaczkowego, 31 października 1926, w wieku 52 lat.
Szeroko znana legenda miejska głosi, iż chorobę spowodował student Uniwersytetu McGill J. Gordon Whitehead, 22 października 1926 w Montrealu, zadając Houdiniemu wielokrotne ciosy w podbrzusze. Naocznymi świadkami tego zdarzenia mieli być studenci owego uniwersytetu, Jacques Price i Sam Smilovitz (w innej wersji: Jack Price i Sam Smiley). Według Price’a, Houdini leżał na kanapie po występie, pozując pewnemu studentowi sztuki. Wówczas do pomieszczenia wszedł Whitehead i spytał, czy to prawda, że Houdini może przyjąć dowolnie silny cios w brzuch, co Houdini potwierdził. Zanim Price zdążył zaprotestować, Houdini został powalony i Whiteahead przystąpił do zadawania mu ciosów w brzuch, dopóki ten nie zaczął okazywać oznak bólu. Price opowiada, że Houdini po prostu nie miał czasu właściwie się przygotować do przyjęcia ciosów, nie był też w odpowiedniej pozycji, by móc to zrobić. Na podstawie relacji Price’a i Smileya firma ubezpieczeniowa orzekła, że do śmierci doszło w wyniku incydentu w garderobie i wypłaciła podwójną sumę ubezpieczenia.