Jednak walka o władzę doprowadziła do dożywotniej niechęci między Quislingiem a Hundseidem.
Nowy premier odziedziczył po Kolstadzie także problematyczną sprawę wschodniej Grenlandii. Norwescy traperzy zajęli wschodnie wybrzeże wyspy i ogłosili je terytorium Norwegii.
Podczas debaty w Stortingu w 1933 roku Johan Ludwig Mowinckel i zażądał zmian w polityce fiskalnej, a Partia Pracy wystąpiła z wnioskiem o wotum nieufności, które zostało odrzucone w pierwszym czytaniu. 23 lutego 1933 roku liberalna partia Venstre wystąpiła z własnym wnioskiem o wotum nieufności, które zostało przyjęte głosami Partii Lewicy i Partii Pracy, co zmusiło Hundseida do złożenia dwa dni później rezygnacji – Hundseid ustąpił 25 lutego 1933 roku.
Rząd Hundseida został zastąpiony przez trzeci rząd Mowinckela, a Hundseid powrócił do parlamentu i funkcji przewodniczącego partii. Miesiąc po zmianie premiera Stały Trybunał Międzynarodowego Trybunału Sprawiedliwości w Hadze oświadczył, że Wschodnia Grenlandia wyrokiem sądu powraca do Danii. 4 lipca znaczna większość w Stortingu przyjęła deklarację krytyczną wobec samodzielnego postępowania rządu Hundseida w tej sprawie bez zaangażowania parlamentu.