Kariera trenerska W styczniu 2019 Grzyb został włączony do sztabu trenerskiego Jagiellonii, w którym pełnił rolę asystenta Ireneusza Mamrota. 8 grudnia 2019, po zwolnieniu Mamrota z posady trenera Grzyb został tymczasowym opiekunem białostoczan. Od końca grudnia 2019 ponownie pracuje jako asystent głównego szkoleniowca, najpierw Iwajły Petewa, a następnie Bogdana Zająca. W lutym i marcu 2021 był oddelegowany do prowadzenia zespołu w meczach ligowych w zastępstwie chorego Zająca. Niedługo po powrocie tego ostatniego do pracy został on zwolniony, a Grzyb został tymczasowym trenerem.
8 lipca 2026 został asystentem Tomasza Kaczmarka w Radomiaku Radom, następnie 8 września 2026 przejął obowiązki pierwszego trenera po odejściu Kaczmarka do Rakowa Częstochowa.
Działalność polityczna W wyborach samorządowych w 2018 roku wystartował na radnego miasta Białystok z komitetu Koalicji Obywatelskiej. W głosowaniu otrzymał 755 głosów. Według wyliczeń Państwowej Komisji Wyborczej było to za mało, by uzyskać mandat. Jednak dzięki rezygnacji z mandatu radnego Tadeusza Truskolaskiego Grzyb zajął jego miejsce w nowo powołanej radzie miejskiej.
Życie prywatne Rafał Grzyb w czerwcu 2008 roku poślubił Ewelinę.