W listopadzie 1939 roku zgłosił się do służby w SS-Totenkopfverbände w Krakowie. Od 6 czerwca 1940 roku pracował w Centralnym Zarządzie Budowlanym Waffen-SS i Policji w Oświęcimiu, został przydzielony do biura budowlanego, gdzie odpowiedzialny był za dział projektowy. Odpowiedzialny był za koordynowanie wszystkich prac budowlanych na terenie obozu Auschwitz-Birkenau, przygotowywał plany, często pełnił także funkcję kierownika budowy. 20 kwietnia 1941 roku został awansowany do stopnia Rottenführera, w listopadzie tego samego roku na Unterscharführera, a miesiąc później został SS-Sonderführerem w randze Untersturmführera.
Zajmował się m.in. projektowaniem baraków obozowych. W 1941 roku wraz z Georgem Werkmannem opracował projekt pierwszych krematoriów w Auschwitz-Birkenau, które przeznaczone miały być do spalania ciał radzieckich jeńców wojennych. Wraz z Fritzem Ertlem koordynował następnie budowę krematoriów, wizytował często place budowy, zmuszając więźniów do wycieńczającej pracy. Wraz z Ertlem zaprojektował także komory gazowe. 16 września 1942 roku wraz z Rudolfem Hößem i Franzem Hösslerem wizytował obóz zagłady w Chełmnie nad Nerem, gdzie zapoznawali się z metodami spalania zwłok wykorzystywanymi przez Paula Blobela w ramach akcji 1005.