Ze względu na wiek i chorobę serca został jednak, prawdopodobnie w październiku 1940 roku, przetransportowany do szpitala więziennego w Chersoniu. Jak podano w odnalezionym akcie zgonu, generał zmarł 8 kwietnia 1941 roku o godz. 21.55 z powodu ostrej niewydolności sercaKrzysztof Berling: Wyjaśnienie okoliczności śmierci gen. Zaruskiego, Kijów, PAP, 10.11.1993, [w:] „Wierchy” R. 59 (1993), s. 183.. Podaje się też, że zapadł na cholerę i zmarł w chersońskim więzieniu NKWD (według jednej z relacji w marcu 1941).
Rehabilitacja i upamiętnienie Generał Zaruski został zrehabilitowany przez radzieckie władze 21 czerwca 1989 roku. Andrzej Bagdziun, radca ambasady RP w Kijowie w 1993 roku podał, że na cmentarzu miejskim w Chersoniu udało się ustalić kwartał, w którym chowano tylko zmarłych w szpitalu i w którym z prawdopodobieństwem 99 procent spoczywa generał.
W roku 1997 Mariusza Zaruskiego odznaczono pośmiertnie Krzyżem Wielkim Orderu Odrodzenia Polski. W tym samym roku – 11 listopada – z inicjatywy Witolda Bublewskiego i noszącej imię gen. Zaruskiego Małopolskiej Chorągwi Żeglarskiej ZHP sprowadzono do Polski i złożono na Starym Cmentarzu w Zakopanem (kwatera P-III-27)śp.