Pod koniec lat 70. i później Shepp grał zarówno muzykę uprawianą dotychczas, jak i wkraczał na nowe obszary. W dalszym ciągu wykorzystywał muzykę afrykańską, ale jednocześnie nagrywał ballady czy spirituals – np. Goin’ Home z Horace’em Parlanem (1977), albo płyty o wyraźnie bluesowym charakterze – Trouble in Mind (którą w 1980 w ankiecie „Down Beatu” krytycy uznali za płytę roku). Wyrażał swoje uznanie dla takich jazzmanów jak Charlie Parker czy Sidney Bechet, nie kryjąc jednak swego zainteresowania rhythm and bluesem. W tym samym czasie nagrywał też z różnymi muzykami europejskimi: z Holendrem Jasperem van ’t Hofem, pianistą pochodzącym z Beninu (dawn. Dahomej) – Tchangodei, duńskim basistą Nielsem-Henningiem Ørstedem Pedersenem czy węgierskim saksofonistą Dreschem Mihály’m.
Na początku lat 90. nawiązał kontakt, i potem często grywał, z francuskim trębaczem Erikiem Le Lannem, z którym w 1995 nagrał płytę Live in Paris. Rezultatem wspólnego grania z pianistą Horace’em Parlanem były płyty Black Ballads i Goin’ Home.