26 kwietnia 1997 wygłosił w Berlinie głośne przemówienie (Berliner Rede), w którym domagał się od obywateli zaangażowania się w odnowę państwa, przyjęcia większej odpowiedzialności i podejmowania ryzyka na rzecz zmian.
Działalność po prezydenturze Przewodniczył konwentowi europejskiemu, który między grudniem 1999 a październikiem 2000 przygotował kartę praw podstawowych Unii Europejskiej. W latach 1999–2000 gościnnie wykładał na uczelni technicznej w Karlsruhe. Moderował cykl wywiadów radiowych dla Bayerischer Rundfunk z serii Herzog spricht mit… Był członkiem władz Fundacji Konrada Adenauera. W 2002 został patronem instytutu „Roman Herzog Institut”. W 2003 został przewodniczącym jednej z komisji programowych CDU, która na zlecenie Angeli Merkel opracowała projekt reformy zabezpieczenia społecznego.
Życie prywatne Urodził się w rodzinie ewangelickiej. Jego ojciec był najpierw handlowcem, później pracował w archiwum miejskim w Landshut, pełnił funkcję jego dyrektora. Roman Herzog ożenił się w 1958 z Christiane Krauß, która zmarła w 2000. Małżonkowie mieli dwóch synów: Markusa i Hansa-Georga. W 2001 były prezydent ożenił się z Alexandrą Freifrau von Berlichingen.
Odznaczenia i wyróżnienia W 2002 otrzymał Order Zasługi Badenii-Wirtembergii.