Kariera reprezentacyjna mały|Cole podczas Euro 2012. W 1999 roku wraz z reprezentacją Anglii do lat 20 brał udział w mistrzostwach świata w Nigerii. W turnieju tym wystąpił przez pełne 90 minut w dwóch meczach, natomiast Anglicy odpadli w fazie grupowej. 31 sierpnia 2000 zadebiutował w kadrze U-21 w spotkaniu z Gruzją. Łącznie rozegrał w niej cztery spotkania i strzelił jednego gola.
28 marca 2001 roku w meczu z Albanią po raz pierwszy zagrał w seniorskiej reprezentacji Anglii. W 2002 wziął udział w mistrzostwach świata w Korei i Japonii, gdzie był podstawowym zawodnikiem kadry narodowej i wraz z nią dotarł do ćwierćfinału. Dwa lata później wystąpił w mistrzostwach Europy w Portugalii – w serii rzutów karnych przegranego ćwierćfinałowego spotkania z gospodarzami turnieju strzelił gola. Ponadto został wybrany do drużyny gwiazd mistrzostw.