Kongresmen O’Neill W stanowej Izbie Reprezentantów służył do roku 1952, kiedy wybrano go kongresmenem federalnym. Na stanowisku tym zastąpił wybranego wówczas na senatora i późniejszego prezydenta Johna F. Kennedy’ego.

Jako kongresmen O’Neill należał do przywództwa frakcji demokratów oraz krytykował politykę prezydenta Lyndona B. Johnsona w Wietnamie. W moim sercu wierzę, że pańska polityka jest zła. – powiedział mu w czasie spotkania w Białym Domu.

Dzięki temu stanowisku stał się bardzo popularny i w roku 1971 został zastępcą przywódcy większości, a w dwa lata później (1973) jej liderem. Na tym stanowisku popierał m.in. postawienie w stan oskarżenia prezydenta Richarda Nixona.

Spiker Po rezygnacji spikera Carla Alberta w roku 1975 z ubiegania się o kolejną kadencję O’Neill został w roku 1977, czyli tym samym, w którym demokrata Jimmy Carter został prezydentem, jego następcą. Stanowisko to zajmował do roku 1987, kiedy to odszedł z Kongresu na emeryturę. W czasie swej kadencji zajmował niezmiennie stanowisko liberalne, za co był atakowany przez prawicowców