W 1936 roku ożenił się z Cylą Mueler.
22 września 1939 roku, po agresji ZSRR na Polskę na mocy paktu Ribbentrop-Mołotow Lwów został okupowany przez Armię Czerwoną. Sowieci przystąpili do likwidacji prywatnej własności, przemysłu i handlu. NKWD uwięziło teścia Wiesenthala, jego szwagier został zastrzelony, on sam zaś pozbawiony firmy. Został też zmuszony do podjęcia pracy mechanika w państwowej fabryce. Dzięki łapówce wręczonej funkcjonariuszowi NKWD uratował siebie i swoją rodzinę przed deportacją na Syberię.
29 czerwca 1941 roku Lwów został zajęty przez wojska niemieckie. Rozpoczęły się pogromy Żydów. Wiesenthal uratował życie dzięki wstawiennictwu swojego byłego pracownika, który współpracował z policją ukraińską. Po utworzeniu przez Niemców we Lwowie getta i obozu janowskiego, w którym więziono głównie Żydów, Wiesenthal przez jakiś czas był więźniem tego obozu. Udało mu się jednak dostać pracę w warsztatach kolejowych, gdzie pracował wraz z żoną. W 1942 roku naziści podjęli decyzję o tzw. ostatecznym rozwiązaniu kwestii żydowskiej. Matka Wiesenthala została wywieziona do obozu zagłady Bełżec w sierpniu 1942 roku (gdzie zginęła). Żona została uratowana (dzięki blond włosom) przy współpracy z polskim podziemiem. Jesienią 1942 roku udało się „przerzucić” ją na „aryjską” stronę.