Latem 2004 podpisał kontrakt z hiszpańskim Elche CF. W Segunda División pierwszy występ zanotował 3 kwietnia 2005 w przegranym 1:3 pojedynku ze Sportingiem Gijón. W pierwszym sezonie rozegrał tam 10 spotkań. Na sezon 2005/2006 został wypożyczony do ojczystego Arsenalu Sarandí. Po zakończeniu tamtego sezonu powrócił do Elche i był jego podstawowym bramkarzem. W 2011 roku przeszedł do Málagi. W dużym stopniu jego zasługą jest awans Málagi do ćwierćfinału Ligi Mistrzów w sezonie 2012/2013.
8 lipca 2014 roku przeszedł do angielskiego Manchesteru City, z którym związał się trzyletnią umową.
1 lipca 2017 roku, po wygaśnięciu umowy z Manchesterem City, podpisał kontrakt z Chelsea F.C.
1 lipca 2023 zakończył piłkarską karierę.
Kariera reprezentacyjna Caballero jest byłym graczem młodzieżowych reprezentacji Argentyny. W 2001 roku był uczestnikiem mistrzostw świata U-20, które zostały wygrane przez Argentynę. W 2004 został powołany do kadry na letnie igrzyska olimpijskie. Jego reprezentacja została ich zwycięzcą, po pokonaniu w finale Paragwaju.