25 sierpnia 1992 Phelan został zawodnikiem Manchesteru City, do którego trafił za 2,5 miliona funtów i wyrównał tym samym rekord transferu obrońcy w angielskiej ligi. W nowym zespole zadebiutował 26 sierpnia w wygranym 3:1 domowym meczu z Norwich City. W Manchesterze występował przez trzy lata za kadencji menedżerów Petera Reida i Briana Hortona. W tym okresie był podstawowym zawodnikiem swojego zespołu, w koszulce którego wystąpił 104 razy i zdobył dwa gole.
15 listopada 1995 Terry odszedł do stołecznej Chelsea i kosztował 900 tysięcy funtów. W drużynie prowadzonej przez Glenna Hoddle’a po raz pierwszy wystąpił 9 grudnia w meczu z Newcastle United. Nie potrafił jednak przebić się do podstawowego składu „The Blues” i przez ponad rok rozegrał zaledwie 15 spotkań w Premier League.
1 stycznia 1997 Phelan ponownie zmienił barwy klubowe i stał się piłkarzem Evertonu (suma transferu wyniosła 850 tysięcy funtów). Swój pierwszy mecz w „The Toffies” rozegrał w tym samym dniu przeciwko Blackburn Rovers (2:0). W czasie pobytu w Evertonie doznał kontuzji, która wyeliminowała go z gry na 18 miesięcy. Gdy Irlandczyk wrócił po kontuzji nie wywalczył miejsca w składzie i w 1999 roku został wypożyczony do Crystal Palace, a w 2000 roku odszedł do Fulham.