Ukończył kurs Przysposobienia Oświatowego Przedpoborowych do Obrony Narodowej oraz szkolenie specjalistyczne zorganizowane przez Komitet Powiatowy LOPP w Starogardzie Gdańskim. Brał udział w przygotowaniach obronnych. W przeddzień wybuchu wojny widziano go w schronie Komendy Obrony Miasta przy ul. Kościuszki 28.
Wieczorem 12 września 1939 roku wraz z innymi mężczyznami z sąsiednich mieszkań został wyprowadzony przez żołnierzy niemieckich, a następnie wywieziony z innymi z nieznanym kierunku. Następnego dnia część mężczyzn wróciła, a po dziesięciu(w tym Józefie Grzybku) ślad zaginął. Kilka dni później przypadkowo grupa chłopców odkryła na polanie leśnej 10 zmasakrowanych ciał ludzkich. Wśród zabitych Wiktor Grzybek rozpoznał syna Józefa. Jak wynika z późniejszych przesłuchań sądowych, bezpośrednimi wykonawcami zbrodni byli miejscowi Niemcy, którzy z listami w ręku szukali konkretnych Polaków, z którymi mieli kiedyś własne, prywatne porachunki. Gdy nie zastali ich na miejscu, postanowili wyżyć się na zakładnikach.
Ciała zamordowanych ekshumowano 23 czerwca 1945 roku i następnego dnia pochowano na cmentarzu katolickim przy ul. Szwoleżerów.