5 grudnia 2001 roku został wypożyczony na jeden miesiąc do Bradford City z powodu wielu kontuzji w tym zespole. Zadebiutował tam 8 grudnia w wygranym 3:1 spotkaniu z Rotherham United w ramach Football League Championship. Do 5 stycznia 2002 roku rozegrał jeszcze cztery ligowe mecze, a 11 stycznia został ponownie wypożyczony do Bradford. 11 lutego powrócił do Newcastle po rozegraniu łącznie dziewięciu spotkań na dwóch wypożyczeniach.

4 listopada 2002 roku Caldwell w wygranym 2:0 spotkaniu z Middlesbrough zdobył swoją pierwszą bramkę w Premier League. 27 listopada zadebiutował w Lidze Mistrzów, zmieniając w 85 minucie meczu z Interem Mediolan Aarona Hughesa. W sezonie 2002/2003 rozegrał łącznie 17 spotkań we wszystkich rozgrywkach.

2 lutego 2004 roku został wypożyczony do Leeds United, gdzie zadebiutował pięć dni później w przegranym wyjazdowym meczu Premier League z Aston Villą. 10 kwietnia w spotkaniu z Blackburn Rovers Caldwell zdobył bramkę dla Leeds. Do 16 maja w klubie tym rozegrał 13 meczów we wszystkich rozgrywkach.