Od 1970 do 1989 zasiadał w Rajya Sabhie, wyższej izbie indyjskiego parlamentu. W 1980 był w niej liderem opozycji. W 1989 został wybrany do Lok Sabhy, niższej izby parlamentu, w której zasiada do chwili obecnej. Od 1991 do 1993 był w niej liderem opozycji. 1 czerwca 2004 został ponownie liderem opozycji w Lok Sabhie.
Od 19 marca 1998 do 20 maja 2004 Advani zajmował stanowisko ministra spraw wewnętrznych w rządzie premiera Atala Bihari Vajpayee. Od października 1999 do maja 2004 pełnił także funkcję wicepremiera. W 1999 otrzymał od parlamentu Nagrodę Wybitnego Parlamentarzysty (Outstanding Parliamentarian Award).
Zniszczenie meczetu Babri Masjid W Indiach od lat dyskutowana jest rola Advaniego w wydarzeniach z 1992. Od początku lat 90. Advani w swoich wystąpieniach publicznych wskazywał na potrzebę wybudowania świątyni boga Ramy. Według hinduskich wierzeń miejsce narodzin Ramy znajdowało się w mieście Ayodhya. W miejscu narodzin stał jednak meczet Babri. 6 grudnia 1992 hinduscy nacjonaliści zburzyli meczet, co wywołało trwające do stycznia 1993 zamieszki, w których zginęło około 2 tysięcy osób.