Filbinger, sam będąc Badeńczykiem, był też zagorzałym zwolennikiem wspólnego landu Badenia-Wirtembergia. W referendum w Badenii w 1970 r. przy frekwencji 62,5% 81,9% wyborców opowiedziało się za tym, aby Badenia pozostała częścią wspólnego landu. W tym okresie udało mu się zrealizować kompleksową reformę administracyjno-terytorialną w postaci redukcji liczby gmin z 3379 do 1107 i liczby powiatów z 63 do 35.
Jego kolejnym sukcesem było zdobycie po raz pierwszy w historii bezwzględnej większości dla CDU w wyborach landowych w 1972 r. W polityce federalnej Filbinger prowadził ostrą krytykę Ostpolitik i polityki gospodarczej rządu federalnego Willy’ego Brandta. W 1973 r. został wybrany na zastępcę federalnego przewodniczącego CDU. W następnych latach jego rząd koncentrował się na ochronie środowiska i bezpieczeństwie wewnętrznym (w tym kwestii lewicowego terroryzmu Frakcji Czerwonej Armii), m.in. jego minister spraw wewnętrznych Karl Schiess wydał dekret, zgodnie z którym każdy kandydat do pracy w służbie cywilnej musiał być sprawdzony przez Ministerstwo Spraw Wewnętrznych pod kątem politycznych przekonań.