W Jagiellonii 1 stycznia 2010 roku Grzyb podpisał 2,5-letni kontrakt z Jagiellonią Białystok, który początkowo miał obowiązywać od 1 lipca. Decyzja o zmianie przynależności klubowej nie spodobała się działaczom Polonii, przez co zawiesili go oni w prawach zawodnika. W ostatnim dniu zimowego okienka transferowego włodarze Jagiellonii i Polonii doszli jednak do porozumienia odnośnie do warunków przejścia Grzyba do Białegostoku. Po przejściu do klubu ze stolicy Podlasia zdobył wraz z Jagiellonią Puchar Polski jak i Super Puchar Polski. w sezonie 2010/11 zajął ze swoim klubem miejsce tuż za podium ligowej tabeli, co umożliwiło im ponowną grę w kwalifikacjach europejskich pucharów. W 2012 roku przedłużył swój kontrakt o kolejne dwa lata. Po odejściu z klubu Tomasza Frankowskiego został pierwszym kapitanem drużyny.