Otrzymał bowiem New Star Award oraz został wybrany przez międzynarodowych krytyków „Najlepszym nowym wokalistą”, a przez czytelników – „Najlepszym wokalistą big-bandu”.
Od 1956 big-band Basiego co roku pojawiał się na najważniejszej amerykańskiej imprezie jazzowej, Newport Jazz Festival. Ponadto w latach 1956, 1957 i 1959 orkiestra wraz z Williamsem koncertowała z wielkim powodzeniem w Europie, po zachodniej stronie żelaznej kurtyny.
Solista i gwiazdor Pomimo ogromnej popularności wśród słuchaczy oraz uznania krytyki zdobytych z zespołem Basiego, Williams doszedł do wniosku, że jego pozycja w orkiestrze nie stwarza mu możliwości pełnego rozwoju artystycznego. Znużony pracą z big-bandem, w 1960 zapowiedział swoje odejście z zespołu i w styczniu następnego roku wystąpił z nim po raz ostatni w ramach wygasającego kontraktu. Wkrótce rozpoczął karierę solową. Jeździł w trasy koncertowe z kwintetem Harry’ego „Sweetsa” Edisona, z którym również nagrywał. W 1962 wystąpił ponownie – ale już jako gość specjalny – z orkiestrą Basiego. Koncert miał miejsce na festiwalu w Newport, a w jednym z utworów Williams zaśpiewał w duecie z Jimmym Rushingiem. Rok później znów pojawił się na festiwalu, a nagrania z jego występu ukazały się następnie na płycie Joe Williams at Newport '63.