Józef Rumkowski (ur. w Ilinie, zm. w sierpniu 1944 w Auschwitz-Birkenau) – żydowski lekarz, brat i bliski współpracownik Chaima Rumkowskiego, Przełożonego Starszeństwa Żydów w Łodzi podczas II wojny światowej.
Życiorys Żonaty z Heleną, mieli syna Ruwena (Romana), który przed wybuchem wojny wyjechał do Palestyny. Przed wojną mieszkał przy ulicy Kilińskiego 105 w Łodzi.
Był kierownikiem szpitala im. Poznańskich w Łodzi, a następnie Szpitala nr 1 w getcie łódzkim. Po utworzeniu Wydziału Zdrowia łódzkiego Judenratu w październiku 1939 roku został mianowany jego dyrektorem administracyjnym. Po utworzeniu getta mieszkał przy ulicy Łagiewnickiej 34 i 63, korzystał także z mieszkania na Marysinie. W lutym 1941 roku jego brat uhonorował go dyplomem uznania. W kwietniu 1941 roku popadł w konflikt z kierownikiem Wydziału Zdrowia Leonem Szykierem, co doprowadziło do odwołania Szykiera ze wszystkich funkcji przez Chaima Rumkowskiego. Ze wszystkich stanowisk w Wydziale Zdrowia ustąpił po tzw. Wielkiej Szperze, likwidacji szpitali w getcie i wywiezieniu ich pacjentów do obozu zagłady w Chełmnie nad Nerem.