W 1992 wziął udział w igrzyskach olimpijskich w Albertville, gdzie zdobył trzy srebrne medale. Na normalnej skoczni prowadził po pierwszej serii, jednak w drugiej kolejce wyprzedził go rodak – Ernst Vettori. W konkursie na dużym obiekcie również zajął 2. miejsce – złoto wywalczył Toni Nieminen. Trzeci srebrny medal zdobył w konkursie drużynowym, gdzie startował wraz z Heinzem Kuttinem, Ernstem Vettorim i Andreasem Felderem. W klasyfikacji generalnej sezonu 1991/1992 zajął 10. miejsce.
W sezonie 1992/1993 był raz na podium zawodów PŚ: 19 grudnia 1992 wygrał konkurs w Sapporo. W klasyfikacji generalnej tego sezonu zajął 13. miejsce. Wystąpił także na mistrzostwach świata w Falun, gdzie był szesnasty na normalnym obiekcie. Rok później, podczas treningu na mistrzostwach świata w lotach w Planicy (1994) poprawił kilkuletni rekord świata w długości skoku Piotra Fijasa wynoszący 194,0 metrów (Höllwarth uzyskał 196 m). Jeszcze na tych samych mistrzostwach rekord ten został poprawiony przez Nieminena, który uzyskał 203,5 m.
Zwyciężył w Turnieju Schwarzwaldzkim w 1995.