Na początku lat 20. zamieszkał w Rosji, gdzie szukał poparcia cara Piotra Wielkiego dla swoich roszczeń do tronu Szwecji. Karol Fryderyk zabiegał o rękę którejś z carówien, jednak Piotr Wielki nie aprobował tych planów. Car zmarł w styczniu 1725 r. Na tron wstąpiła wdowa po nim, Katarzyna I, która, darząc sympatią księcia, przekonała starszą córkę do małżeństwa.
1 czerwca 1725 r. w Petersburgu odbył się ślub 25-letniego Karola Fryderyka i 17-letniej Anny Piotrowny z dynastii Romanowów. Od czasu zawarcia małżeństwa książę przebywał na dworze petersburskim. Ten ślub stał się początkiem ścisłych kontaktów Rosji z księstwami w północnych Niemczech. Sam związek był nieudany - Anna i Karol miewali pozamałżeńskie relacje z innymi.
Karol Fryderyk jako zięć panującej cesarzowej był ważną postacią na dworze. Został członkiem specjalnie utworzonej 6-osobowej Najwyższej Tajnej Rady, będącej organem doradczym cesarzowej Katarzyny I. Przywódcą Tajnej Rady i faktycznym konstruktorem polityki rosyjskiej był faworyt cesarzowej książę Aleksander Mienszykow, ale Karol Fryderyk uchodził za ważnego członka tej grupy. Stał na czele partii holsztyńskiej, powiązanej z niemieckimi interesami. Inspirował antyduńskie i antyangielskie działania polityki rosyjskiejAndrzej Andrusiewicz, Carowie i Cesarze Rosji. Szkice biograficzne., Warszawa 2001, s.