Rezygnacja Arrupe została przyjęta przez kongregację 3 września 1983 i rozpoczęto procedurę wyboru nowego przełożonego generalnego, którym został Peter Hans Kolvenbach.
Podczas sesji otwierającej kongregację o. Arrupe został wprowadzony na wózku inwalidzkim i odczytano napisane przez niego słowa:
Podczas długich i cichych lat w infirmerii, lat modlitwy za Towarzystwo, przyjmował Arrupe wiele serdecznych odwiedzin, wśród których szczególne Jana Pawła II i Matki Teresy.
Pedro Arrupe zmarł w Kurii 5 lutego 1991 w 84. roku życia. Jego generalat trwał 18 lat, po czym 8 lat przeżył sparaliżowany, wyłączony z aktywnego życia.
Uroczystości pogrzebowe Arrupe odbyły się w kościele il Gesù pośród tłumu zgromadzonego wewnątrz świątyni, jak i na placu wokół. Uczestniczyło w pogrzebie 10 kardynałów, 20 biskupów, premier Włoch oraz inni religijni i cywilni dygnitarze. Ciało wpierw złożono na Campo Verano, następnie przeniesiono z powrotem do kościoła il Gesù, gdzie złożono je w bocznej kaplicy. W 2007 obchodzono uroczyście setną rocznicę jego urodzin.
Ojciec Arrupe był poliglotą (znał biegle siedem języków poza rodzimym hiszpańskim).