W latach 1962–1965 jako doradca ds. teologicznych towarzyszył biskupowi Limburga Wilhelmowi Kempfowi na Soborze Watykańskim II; w pracach komisji teologicznej Soboru współpracował m.in. z Karolem Wojtyłą. Odbył kilka podróży do państw afrykańskich, gdzie prezentował dokumenty soborowe biskupom i misjonarzom. W latach 1964–1977 był redaktorem naczelnym periodyku „Scholastik” (od 1966 pod nazwą „Theologie und Philosophie”), wydawanego przez Wydział Teologiczny Uniwersytetu we Frankfurcie. Od 1993 był członkiem Bawarskiej Akademii Nauk. Honorowe doktoraty nadały mu uniwersytety w Moguncji, Innsbrucku i Bambergu.

Nominacja kardynalska W listopadzie 1994 papież Jan Paweł II wyniósł go do godności kardynalskiej, nadając tytuł diakona San Nicola in Carcere. Ze względu na podeszły wiek (84 lata) ks. Grillmeier został zwolniony z przyjęcia sakry biskupiej, nie miał również nigdy prawa udziału w konklawe. Zmarł we wrześniu 1998 i został pochowany na cmentarzu w Pullach.

Publikacje Tłumaczenie angielskie jego podstawowego dzieła, zadedykowanego kard. Franzowi Königowi, abpowi Wiednia.