W latach 1922–1925 pełnił rolę przewodniczącego zarządu miejscowego SPD w Darmstadt. W 1924 wybrano go po raz pierwszy do heskiego landtagu, gdzie do 1928 pełnił funkcję wiceprzewodniczącego. Był ponadto członkiem rady miejskiej i członkiem prowincjalnego landtagu w Starkenburgu. W 1928 został ministrem spraw wewnętrznych rządu Hesji. Po przejęciu władzy przez Adolfa Hitlera zrezygnował z pełnionej dotychczas funkcji ministra. Do jego bliskich współpracowników należeli Carlo Mierendorff i . 2 maja 1933 został ciężko pobity i aresztowany w Berlinie przez ludzi z SA, bojówki NSDAP.
Leuschner, który był wówczas zastępcą przewodniczącego zjednoczenia związków zawodowych w Niemczech ( – ADGB), został zmuszony do towarzyszenia Robertowi Leyowi w czerwcu 1933 roku na kongresie Międzynarodowej Organizacji Pracy w Genewie. Zdystansował się tam jednak oficjalnie od narodowosocjalistycznego związku zawodowego Deutsche Arbeitsfront, kierowanego przez Leya.