Przez 24 lata jego kierownictwa w grupie badawczej Ehlersa pracowali między innymi , John Stewart i Bernd Schmidt, a także naukowcy wizytujący, w tym , Demetrios Christodoulou i .

Jednym z młodszych współpracowników Ehlersa w Monachium ze stopniem doktora był , który później został redaktorem naczelnym czasopisma , niemieckiej edycji popularnonaukowego pisma Scientific American.

Poczdam Gdy po zjednoczeniu Niemiec w 1990 roku reorganizowano niemieckie instytucje naukowe, Ehlers zabiegał o utworzenie placówki Towarzystwa Maxa Plancka poświęconej badaniom nad teorią grawitacji. 9 czerwca 1994 roku Towarzystwo postanowiło powołać w Poczdamie. Instytut rozpoczął działalność 1 kwietnia 1995 roku, a Ehlers został jego dyrektorem założycielem oraz kierownikiem działu podstaw i matematyki ogólnej teorii względności. Ehlers nadzorował następnie utworzenie drugiego działu badawczego instytutu, poświęconego badaniom nad falami grawitacyjnymi i kierowanego przez . 31 grudnia 1998 roku Ehlers przeszedł na emeryturę, zostając honorowym dyrektorem założycielem.

Ehlers pracował w instytucie aż do śmierci 20 maja 2008 roku. Mieszkał w Starnbergu. Pozostawił żonę Anitę Ehlers, czworo dzieci – Martina, Kathrin, Davida i Maksa – oraz pięcioro wnuków.