Od 1875 roku, tj. od śmierci ojca, Gołuchowski Młodszy zasiadał w Izbie Panów. Od 1907 roku przewodniczył polskiej grupie w izbie wyższej. Nie zasłynął większą aktywnością na polu parlamentarnym. W czasie I wojny światowej bronił polskich interesów w swym dawnym ministerstwie i w komendzie głównej, starając się wykorzystać swoje wpływy polityczne i towarzyskie. Było to o tyle trudne, że przeciwstawiały mu się koła wojskowe, które zdobyły wówczas znaczne wpływy w monarchii habsburskiejNad grobem ś.p. Agenora Gołuchowskiego, Gazeta Lwowska, 4 kwietnia 1921, s. 4.. W 1915 r., bez powodzenia, forsował kandydaturę gen. Tadeusza Jordan Rozwadowskiego na stanowisko namiestnika Galicji. Propozycja ta została jednak odrzucona przez cesarzaM. Patelski, Generał Broni Tadeusz Jordan Rozwadowski żołnierz i dyplomata, Warszawa 2002.. Gołuchowski był także przewodniczącym Komisji Politycznej Koła Polskiego. Pod jego przewodnictwem polscy posłowie zamanifestowali swój sprzeciw wobec pokoju brzeskiego w 1918 roku. Porozumienie to otwarcie uznał za zdradę i w specjalnej deklaracji on i grupa posłów ogłosiła „wypowiedzenie zerwania związku z rządem austriackim”.