W początkowym okresie rządów Hitlera Neurath z respektem odnosił się do jego polityki zagranicznej nastawionej na ekspansję Niemiec.
Von Neurath był zaangażowany w wycofanie się Niemiec z Ligi Narodów w 1933 r., w negocjacje dotyczące anglo-niemieckiego porozumienia dot. floty wojennej (1935) i remilitaryzację Nadrenii. Neurath wstąpił do NSDAP w 1937 r., a we wrześniu tego samego roku otrzymał stopień Obergruppenführera w SS.
4 lutego 1938 został wydalony z Ministerstwa Spraw Zagranicznych. Uważał, że rola jego urzędu była zmarginalizowana i nie przystawała do agresywnych planów wojennych Hitlera, które w szczegółach zostały skumulowane w Memorandum Hossbacha z 5 listopada 1937. Neuratha zastąpił na urzędzie Joachim von Ribbentrop, jednak sam Neurath pozostał w rządzie jako minister bez teki.