Po przegranych barażach do Mundialu pod koniec 2001 roku z funkcji selekcjonera reprezentacji Iranu zrezygnował Blažević i na swoje miejsce rekomendował Ivankovicia. W styczniu 2002 roku Chorwat podpisał roczny kontrakt i mimo iż kilka miesięcy później doprowadził Irańczyków do zwycięstwa w azjatyckich igrzyskach olimpijskich, to został zdymisjonowany. Wrócił do łask w październiku 2003 i awansował z reprezentacją do Mistrzostw Świata 2006.
Od tamtego czasu znajdował się pod ciągłym ostrzałem miejscowych dziennikarzy, którzy zarzucali mu hołdowanie zbyt defensywnej taktyce i przywiązanie do uznanych, ale ponad 30-letnich zawodników. Po Mundialu Ivanković pożegnał się z reprezentacją, która z dorobkiem jednego punktu zajęła w grupie ostatnie miejsce.
6 listopada 2006 został trenerem Dinama Zagrzeb. Dotychczasowy trener Dinama, Josip Kuže został zwolniony z powodu słabego startu drużyny w Pucharze UEFA.