W pozostałej części wojny w Niderlandach sprawował wysokie dowództwo i był obecny podczas bitwy pod Fleurus.
W 1795 roku służył nad Renem, a w następnym roku powierzono mu naczelne dowództwo nad wszystkimi siłami austriackimi na tej rzece. Jego sposób prowadzenia operacji przeciwko Jourdanowi i Moreau w 1796 roku natychmiast wyróżnił go jako jednego z największych generałów w Europie. Początkowo, wycofując się ostrożnie i unikając decyzji, w końcu odmaszerował, pozostawiając przed Moreau jedynie zasłonę. Napadając na Jourdana, pokonał go w bitwach pod Ambergiem (sierpień), Würzburgiem i Limburgiem (wrzesień) i zmusił go do przekroczenia Renu z wielkimi stratami. Następnie zwrócił się przeciwko armii Moreau, którą pokonał i wyparł z Niemiec po bitwach pod Wetzlar, Emmendingen i Schliengen
Wojny napoleońskie mały|Portret arcyksięcia Karola autorstwa Thomasa Lawrence'a, 1819 W 1797 roku został wysłany do Włoch, aby powstrzymać zwycięski pochód generała Napoleona Bonaparte i z najwyższą zręcznością poprowadził odwrót przeważających sił austriackich.