W 1983 przeszedł do landtagu Szlezwika-Holsztynu, gdzie objął przewodnictwo frakcji SPD. W tym samym roku został członkiem kuratorium Fundacji im. Friedricha Eberta. W 1984 dołączył do zarządu federalnego socjaldemokratów. Po wyborach w 1987 socjaldemokraci pozostali w opozycji wobec kolejnego rządu Uwe Barschela z CDU. Wkrótce po reelekcji premiera Szlezwika-Holsztynu zarzucono mu zlecenie szpiegowania Björna Engholma w kampanii wyborczej. Uwe Barschel zaprzeczał tym zarzutom, jednak zrezygnował ze stanowiska, a kilka dni później został znaleziony martwy w hotelu w Genewie.
W kraju związkowym przeprowadzono kolejne wybory, które zakończyły się zwycięstwem SPD. W maju 1988 Björn Engholm został nowym premierem landu, dołączając w tym samym roku do prezydium SPD. Od listopada 1988 do października 1989 był przewodniczącym Bundesratu. W maju 1991 zastąpił Hansa-Jochena Vogela na stanowisku przewodniczącego Socjaldemokratycznej Partii Niemiec. W styczniu 1992 ogłoszono go kandydatem SPD na kanclerza, a maju tegoż roku uzyskał reelekcję na premiera Szlezwika-Holsztynu.