W wyniku afery drużyna Królewsko-Niebieskich się rozpadła, jednak Scheer pozostał w klubie do końca sezonu 1974/1975.
Następnie w latach 1975–1977 reprezentował barwy FC Kaiserslautern, z którym w sezonie 1975/1976 dotarł do finału Pucharu Niemiec, w którym Czerwone Diabły przegrały 2:0 z Hamburgerem SV na Waldstadion we Frankfurcie nad Menem, a w 1977 roku został zawodnikiem 2. Bundesligi – Westfalii Herne, z którym zajmował w sezonie 1977/1978 12. miejsce oraz w sezonie 1978/1979 5. miejsce, a po sezonie 1978/1979 zakończył w wieku zaledwie 28 lat piłkarską karierę. Łącznie w Bundeslidze rozegrał 206 meczów, w których zdobył 38 goli, natomiast w 2. Bundeslidze rozegrał 49 meczów, w których zdobył 8 goli.
Kariera reprezentacyjna Klaus Scheer rozegrał 1 mecz w reprezentacji RFN U-23„Zurückgeblättert…”, Siegener Zeitung z 30 kwietnia 2011 roku ..
Kariera trenerska Klaus Scheer po zakończeniu kariery piłkarskiej rozpoczął karierę trenerską. W latach 1991–1992 trenował Sportfreunde Siegen, w latach 1994–1995 FC Saarbrücken, natomiast w 1998–1999 był trenerem FC Remscheidu.