Po wybuchu wojny z Francją stanął na czele 5 Dywizji Kawalerii. Uczestniczył w bitwach pod Speichern i Vionville oraz w oblężeniu Paryża. Po pokoju frankfurckim powrócił na stanowisko dowódcy 9. Dywizji Piechoty. Pozostawał nim do 1872 roku, kiedy został Generalnym Inspektorem Edukacji Wojskowej i Szkolenia (niem. Generalinspector des Miliarerziehungs- und Bildungswesens) i na tym stanowisku awansował na generała kawalerii (niem. General der Cavallerie). W 1880 roku obchodził 50-lecie służby wojskowej i z tej okazji cesarz Wilhelm I mianował go szefem 13. Pułku Dragonów. Jeszcze w tym samym roku gen. von Rheinbaben zdecydował się przejść w stan spoczynku.
Odznaczenia Odznaczenia gen. von Rheinbabena to między innymi: Krzyż Wielki Orderu Orła Czerwonego z liśćmi dębu i mieczami Order Orła Czerwonego II klasy z mieczami, gwiazdą i liśćmi dębu na wojennej wstędze Krzyż Żelazny I klasy Krzyż Żelazny II klasy Order Świętego Jana Kawaler I klasy Orderu Alberta Niedźwiedzia (Anhalt) Krzyż Wielki Orderu Henryka Lwa z mieczami (Brunszwik) Kawaler Krzyża Wielkiego Orderu Świętych Maurycego i Łazarza (Włochy) Krzyż Zasługi Wojskowej II klasy (Meklemburgia) Kawaler Orderu Korony Żelaznej III klasy (Austro-Węgry) Krzyż Wielki Orderu Domowego i Zasługi z mieczami (Oldenburg) Order Świętego Włodzimierza IV klasy (Imperium