W latach 2002–2005 prowadził reprezentację Włoch. Pomimo początkowych sukcesów (w pierwszym sezonie pokonał Walię, w kolejnym Szkocję), w swoim trzecim sezonie w rozgrywkach Pucharu Sześciu Narodów nie udało mu się wywalczyć żadnego zwycięstwa, pomimo kontraktu obowiązującego do Puchar Świata w rugby 2007 postanowiono rozwiązać z nim umowę.
W roku 2007 zaczął prowadzić reprezentację Japonii, podczas występu w Pucharze Świata 2007 udało mu się zremisować z reprezentacją Kanady, co zakończyło serię trzynastu kolejnych porażek w meczach pucharowych reprezentacji Japonii. Przed Pucharem Świata w 2011 roku zapowiadał zakończenie współpracy z reprezentacją Japonii. Japonia poniosła cztery porażki i zgodnie z zapowiedziami John postanowił nie przedłużać kontraktu.
W roku 2012 został poproszony o poprowadzenie drużyny Barbarian F.C. w trzech meczach przeciwko Anglii, Irlandii oraz Walii, co sam określił jako "zaszczyt (...) którego nigdy nie zapomnę".
Przejął stanowisko trenera Blues w roku 2013 i przez trzy sezony prowadził drużynę, w tym czasie zespół Blues plasował się w drugiej połowie tabeli.
W roku 2014 ponownie poprowadził drużynę Barbarian F.C.