W latach 1957–1959 był redaktorem i konsultantem wydawnictwa Bote & Bock.
Od 1950 do 1969 wykładał teorię muzyki na Wolnym Uniwersytecie Berlińskim, równocześnie w latach 1956–1969 w berlińskiej Hochschule für Musik. W 1956 prowadził kurs analizy muzycznej na Międzynarodowych Letnich Kursach Nowej Muzyki w Darmstadcie, a od 1959 w Wiedniu. Wśród jego uczniów byli m.in. Peter Gradenwitz, Giselher Klebe, Claude Ballif i Isang Yun.
Badacz twórczości Schönberga Rufer był wiodącym teoretykiem z kręgu Schönberga. Jest autorem wielu opracowań bibliograficznych, korespondencji, analiz i edycji krytycznych mających wielką wartość, również współcześnie. Jego traktat Die Komposition mit zwölf Tönen (1952), pisany prawdopodobnie w bezpośrednim porozumieniu z Schönbergiem, jest pierwszym większym dziełem poświęconym problematyce muzyki dodekafonicznej, zawierającym precyzyjny opis Schönbergowskiej „metody komponowania za pomocą 12 dźwięków” wraz z wyjaśnieniem pojęcia „Grundgestalt”. W aneksie do pierwszego wydania zostały umieszczone wypowiedzi 13 kompozytorów muzyki dwunastotonowej z I poł. XX wieku, m.in. Borisa Blachera, Luigiego Dallapiccoli, Hannsa Jelinka i Rolfa Liebermanna.