Albumem dokumentującym współpracę Ra i Sandersa jest wydany w 1976 roku longplay Featuring Pharoah Sanders and Black Harold z koncertem zarejestrowanym 15 czerwca 1964 roku.
W 1963 roku założył własne combo, w którym znaleźli się pianista John Hicks, kontrabasista Wilbur Ware i perkusista Higgins. Podczas koncertu grupy w nowojorskim klubie nocnym The Village Gate na widowni znajdował się John Coltrane, któremu występ spodobał się na tyle, iż pod koniec 1964 zaprosił Sandersa do współpracy. Poczynając od roku 1965 Sanders regularnie grał z zespołem Coltrane’a, aczkolwiek nie jako oficjalny członek bandu. Ich wspólne występy wzbudzały silne kontrowersje, gdyż wykonujący „uduchowiony” free i avant-garde jazz muzycy, inspirowani dokonaniami Alberta Aylera, Ornette’a Colemana i Cecila Taylora, prezentowali skrajnie nietradycyjne podejście do uprawiania jazzu. Współpraca okazała się jednak nader udana i zaowocowała wieloma nagraniami, pośród których znalazły się takie albumy, jak Meditations, Kulu Sé Mama czy uznawany przez krytyków za arcydzieło Ascension.