W 1995 Yes reaktywował się w oryginalnym składzie z lat 70. – Jon Anderson, Chris Squire, Alan White, Steve Howe, Rick Wakeman). Sherwood był producentem nowych utworów studyjnych, które ukazały się na płytach Keys to Ascension i Keys to Ascension 2; ten drugi album został nagrany w studiu będącym własnością Sherwooda. W 1997 Rick Wakeman po raz kolejny opuścił Yes, dlatego Squire poprosił Sherwooda o dołączenie do Yes na stałe. Na płycie Open Your Eyes (album) z 1997 Sherwood grał na gitarze i klawiszach. Przy okazji trasy koncertowej Open Your Eyes do Yes dołączył także klawiszowiec Igor Khoroshev, dlatego Sherwood pozostał tylko gitarzystą.
Jako kompozytor utworów Yes Sherwood poszedł drogą Trevora Rabina, łącząc melodyjny rock środka (AOR) z elementami rocka progresywnego. W jednym z wywiadów określił komercyjną płytę Yes Big Generator z 1987 jednym z ulubionych albumów wszech czasów.
W tym czasie Sherwood rozpoczął prace nad trzecim albumem World Trade, ale zespół się rozpadł. Przygotowany materiał Sherwood wykorzystał na swoim pierwszym solowym albumie The Big Peace (1999).