Po upadku pisma w 1874 roku wyjechał do Grazu (Austria), gdzie w 1876 roku otrzymał stanowisko docenta, a później, w 1882 r. profesora. Wykładał i pisał po niemiecku. W tym czasie ukazały się jego podstawowe prace: „Rasse und Staat” (1875), „Philosophisches Staatsrecht” (1877), „Rechtsstaat und Sozialismus” (1881), „Der Rassenkampf” (1882), „Grundriss der Soziologie” (1885), „Soziologie und Politik” (1892), „Geschichte der Staatstheorien” (1905), „Allgemeines Staatsrecht” (1907), „Sozialphilosophie im Umriss” (1909).
Pobyt w Grazu był okresem najbardziej twórczym w jego biografii. Całą swą energię poświęcił socjologii, nowej dziedzinie nauki, której stał się współtwórcą. Jako pierwszy polski socjolog zajął się badaniem problematyki mniejszości etnicznych. Ze względu na jego teorię walki i rasy, bardzo często, jakże niesłusznie, zarzucano mu rasizm. Jednocześnie wiele czasu zabierały mu wykłady prawa państwowego i administracyjnego, prowadzone w nowatorskim ujęciu przez 30 lat. Osiągnięcia naukowe, których wyrazem było tłumaczenie wielu jego dzieł na kilka języków obcych, nie dały Gumplowiczowi pełnej satysfakcji. W Grazu, do końca życia, czuł się wygnańcem.