W lutym 1992 Babić stracił stanowisko prezydenta.
W kolejnych latach pozostał we władzach republiki, ale na mniej eksponowanych stanowiskach (był ministrem spraw zagranicznych od kwietnia 1994) i z mniejszym wpływem na bieżące wydarzenia. Krótko przed upadkiem Republiki Serbskiej Krajiny został premierem (od lipca do sierpnia 1995). W grudniu 2002 zeznawał w procesie Slobodana Miloševicia jako świadek oskarżenia.
Wkrótce sam stanął przez Międzynarodowym Trybunałem ds. byłej Jugosławii w Hadze. Podjął współpracę z prokuraturą, dzięki czemu odstąpiono od części stawianych mu zarzutów. Ostatecznie został uznany za winnego zbrodni przeciw ludzkości – prześladowania ludności nieserbskiej w Krajinie, w tym morderstw – i skazany w czerwcu 2004 na 13 lat więzienia (co było wyższym wymiarem kary niż proponowany przez prokuraturę). Karę odbywał w Scheveningen, biorąc udział jako świadek w procesie innego wysokiego przedstawiciela Serbów chorwackich, Milana Marticia (ostatniego prezydenta Republiki Serbskiej Krajiny).