Od 1959 Gyula Horn był zatrudniony w resorcie spraw zagranicznych. W latach 60. jako dyplomata pracował w ambasadach Węgier w Bułgarii i Jugosławii. W 1970 ukończył partyjną akademię polityczną, a w 1977 uzyskał stopień kandydata nauk ekonomicznych. Od 1969 był etatowym pracownikiem partyjnym zatrudnionym w wydziale spraw zagranicznych komitetu centralnego partii komunistycznej, którym kierował od 1983. W 1985 został wiceministrem spraw zagranicznych.
Pod koniec lat 80. należał do tzw. reformatorskiego skrzydła partii. Był współpracownikiem Miklósa Németha. W jego gabinecie w początkowym okresie przemian politycznych pełnił funkcję ministra spraw zagranicznych (1989–1990). W czerwcu 1989 wraz z austriackim ministrem spraw zagranicznych Aloisem Mockiem wziął udział w przecinaniu płotu na granicy austriacko-węgierskiej, będącego jednym z symboli żelaznej kurtyny. Otwarcie tej granicy umożliwiło następnie Niemcom z NRD wyjazd do Niemiec Zachodnich poprzez Węgry i Austrię. W 1989 wziął udział w powołaniu na bazie rozwiązanej MSZMP postkomunistycznej Węgierskiej Partii Socjalistycznej. Od 1990 do 1998 pełnił funkcję przewodniczącego tego ugrupowania.