W 1231 roku Konradowi nadane zostały dwa prestiżowe tytuły możnowładcze – landgrafa i palatyna, co zapewniło mu bardzo wysoką pozycję w hierarchii Świętego Cesarstwa Rzymskiego.
Współczesnych historyków zadziwia fakt, że Konrad zdecydował się wstąpić do zakonuPaweł Pizuński, s. 19., skoro zajmował w Niemczech tak ważne stanowisko, tymczasem szeregi Krzyżaków tworzyli przede wszystkim młodsi synowie z pomniejszych rodów rycerskich. Według tradycji krzyżackiej, głównym powodem, dla którego Konrad przyjął śluby zakonne były wyrzuty sumienia, dręczące go od chwili, kiedy kazał zakuć w kajdany arcybiskupa Moguncji po tym, jak popadł z nim w spór, a także od czasu, gdy jego wojska spustoszyły Fritzlar z powodu szyderstw, jakich doznał on od mieszkańców tego miasta. Wkrótce po tych wydarzeniach, 18 listopada 1234 roku w Marburgu, Konrad wstąpił do zakonu krzyżackiego.
Nie są znane funkcje, jakie pełnił przed piastowaniem godności wielkiego mistrza. Z pewnością sprawował jednak jakiś urząd, gdyż zobowiązany był do tego każdy spośród braci. Konrad został obrany wielkim mistrzem zakonu prawdopodobnie latem 1239 roku, najpewniej podczas posiedzenia kapituły generalnej w Marburgu.