Przed wydaniem rozkazów chciał osobiście poznać sytuację na froncie, dlatego też regularnie odwiedzał rowy strzeleckie, punkty obserwacyjne i wysunięte strażnice, czym zaskarbił sobie szacunek żołnierzy. Był jednym z niewielu dowódców, który otrzymał Drużynowy Krzyż Karola, za nieustanną dwunastotygodniową służbę na froncie. Często przebywał w otoczeniu żołnierzy, poznawszy ich sposób myślenia i obiecywał poprawę sytuacji z wyposażeniem, zaopatrzeniem i higieną. Węgierskie oddziały zachęcał do niesamowitych osiągnięć wojskowych, kiedy przebywał w ich otoczeniu.
Po śmierci Franciszka Józefa I pod koniec listopada cesarz Karol wyznaczył arcyksięcia Józefa na dowódcę frontu wschodniego (Heeresfront Ost). Jego oddziały stanęły do walki przeciwko armiom rosyjskim i rumuńskim. Pod koniec 1916 odzyskano wschodnie części zajętego przez Rumunów Siedmiogrodu i rozpoczęto negocjacje w celu zawieszenia broni.