W tym okresie Shepp był jedną z bardziej widocznych postaci „pokolenia free”, swoje poglądy wyrażał zarówno poprzez muzykę, jak i nagrywane na płytach gniewne, antyrasistowskie wypowiedzi.
W 1965 pracował z Johnem Coltrane’em przy nagrywaniu kolejnej płyty Asencion (razem z Tchicai i innymi muzykami obecnymi na Four for Trane).
Potwierdzeniem faktu, że Archie Shepp stał w pierwszym szeregu jazzowej awangardy, była płyta New Thing at Newport nagrana 2 lipca 1965 i podzielona pomiędzy dwóch muzyków: jedna strona to występ Johna Coltrane’a, druga – Archiego Sheppa.
Albumem The Magic of Ju-Ju (1967) wraca do Afryki i jej dźwięków. Związek muzyki z kontynentem afrykańskim pogłębiony został poprzez wykorzystanie charakterystycznych dla Afryki instrumentów perkusyjnych (dundun, tama, tam-tamy). W tym okresie wielu afroamerykańskich jazzmanów było pod narastającym wpływem afrykańskiej kultury i tradycji muzycznych. Pharoah Sanders i Archie Shepp byli jednymi z pierwszych i jednocześnie najmocniej zaangażowanych. The Magic of Ju-Ju ukształtowało brzmienie Sheppa na kilka następnych lat: awangardowe, free jazzowe dźwięki saksofonu łączone z rytmami i ideologią Afryki.
W 1969 odbywa swoją pierwszą podróż do Afryki.