W 1994 dołączył do Partii Socjaldemokracji w Rumunii, przekształconej następnie w Partię Socjaldemokratyczną. Był jej przewodniczącym w okręgu Kluż i wiceprzewodniczącym krajowych struktur ugrupowania. W 1996 pełnił funkcję prefekta okręgu Kluż, a w 2000 przewodniczącego rady tego okręgu. W 2000 został ministrem spraw wewnętrznych w rządzie, którym kierował Adrian Năstase. W 2003 powołany w tym samym gabinecie na ministra administracji publicznej i spraw wewnętrznych, funkcję tę pełnił do 2004. Od 2003 do 2004 jednocześnie pełnił funkcję wicepremiera. W 2005 w trakcie wyborów przewodniczącego PSD wsparł Mirceę Geoanę, który pokonał wówczas Iona Iliescu. W kolejnych latach Ioan Rus zrezygnował z funkcji partyjnych.
Od maja do sierpnia 2012 ponownie stał na czele resortu spraw wewnętrznych, wchodząc w skład gabinetu Victora Ponty. Ustąpił po referendum w sprawie odwołania prezydenta Traiana Băsescu, które z powodu zbyt niskiej frekwencji okazało się nieważne. W czerwcu 2014 otrzymał nominację na ministra transportu w trzecim rządzie Victora Ponty. Utrzymał to stanowisko również w powołanym w grudniu tegoż roku czwartym gabinecie tego samego premiera. W czerwcu 2015 podał się do dymisji.