Później objął dowództwo 1 Dywizji Piechoty, w niemieckim Würzburgu, stanowiącej pierwszy rzut sił USA w Kosowie. Służył jako zastępca przewodniczącego Kolegium Szefów Połączonych Sztabów podczas operacji Iraqi Freedom. W 2003 roku stanął na czele Centralnego Dowództwa Sił Zbrojnych Stanów Zjednoczonych, zastępując gen. Tommy’ego Franksa. Odtąd był odpowiedzialny za strategię wojskową i wspólne działania na Bliskim Wschodzie, w Rogu Afryki i Azji Środkowej. W dniu 16 marca 2007 roku, gen. Abizaid przekazał swoje stanowisko admirałowi Williamowi J. Fallonowi.
Po przejściu w stan spoczynku podjął pracę wykładowcy na Uniwersytecie Stanforda i Harvard’s Kennedy School of Government. Jest członkiem Rady ds. Stosunków Zagranicznych i Międzynarodowego Instytutu Studiów Strategicznych oraz pełni funkcję dyrektora Fundacji George’a Olmsteda i USAA. John Abizaid nadal służy w West Point, gdzie jest przewodniczącym Centrum Zwalczania Terroryzmu.