Lata 60. Sheffield Wednesday spędził w Division One. Najlepszy występ w tych rozgrywkach zanotował w sezonie 1960/61 kiedy uplasował się na drugim miejscu. W tym okresie zaliczył występ w finale FA Cup (1965/66). 14 maja 1966 w finale na stadionie Wembley, Sheffield Wednesday uległo Evertonowi 2:3. Dziesięciolecie zakończyli spadkiem do Division two w sezonie 1969/70.
Lata od 1970 do 1984 Sheffield Wednesday grał na poziomie Division Two i Third Division. Po pięciu latach spędzonych w drugiej lidze w sezonie 1974/75 po raz pierwszy w historii The Owls opuścili pierwsze dwa poziomy rozgrywkowe ligi angielskiej. Następny sezon (1975/76) który grali w Third Division to była obrona przed spadkiem o jeszcze jedną klasę niżej. Po kolejnych czterech latach w sezonie 1979/80 uzyskali awans do Division Two, zajmując trzecie miejsce w lidze. Kolejne lata gry to była próba powrotu do Division One. W 1983 roku Sheffield Wednesday awansował do półfinału FA Cup, niestety nie udało się osiągnąć finału gdyż na przeszkodzie stanął Brighton & Hove Albion, który pokonał The Owls 2:1.