W Chelsea Theater wystawiono też „Lady Day: A Musical Tragedy” – o życiu Billie Holiday. Spektakl powstał przy współpracy trębacza i kompozytora Cala Masseya (1972). Natomiast trzy jednoaktówki Sheppa wystawił Public Theatre. Jeden z utworów poetyckich napisanych przez Sheppa w San Francisco w 1966 – „Revolution”, opublikowany został dopiero we wrześniu 2009 (przez francuskie pismo „L'Écho d’Orphée”).
Podczas ciąży żony Shepp, zmuszony do uzupełnienia domowego budżetu, przez jakiś czas grał na saksofonie altowym z zespołami grającymi na zabawach tanecznych. Brał też udział w jam sessions w jazzowych klubach (m.in. w Café Wha?).
Karierę profesjonalnego muzyka rozpoczął w 1960, gdy dołączył do grupy awangardowego pianisty Cecila Taylora, polecony liderowi przez basistę zespołu – Buella Neidlingera. W ten sposób Shepp nawiązał kontakt z jazzową awangardą i, pozostając pod wielkim wpływem Taylora jako muzyka i człowieka, brał potem udział w nagraniach takich jego albumów jak: Air, The World of Cecil Taylor i Cell Walk for Celeste.
Przez dwa lata (1962-1963) prowadził zespół, którego drugim liderem był Bill Dixon. Z nimi Shepp nagrał pierwszą płytę firmowaną już własnym nazwiskiem.