Na czele thumb|Mapa zimnej wojny krajów socjalistycznych i komunistycznych za rządów Czernienki Kiedy w lutym 1984 roku Andropow zmarł, jego następcą początkowo wydawał się Michaił Gorbaczow, jednak konserwatywne skrzydło KPZR, przestraszone wizją kontynuowania reform rozpoczętych przez Andropowa, zjednoczyło siły i wysunęło jednomyślnie przyjętą kandydaturę na czele z Czernienką. 11 kwietnia 1984 Czernienko został Przewodniczącym Prezydium Rady Najwyższej. Był on już jednak wówczas nie tylko podeszły wiekiem, ale i poważnie schorowany.

Krótkie rządy Czernienki charakteryzowały się hamowaniem reform (choć paradoksalnie Gorbaczow pozostał jego bliskim współpracownikiem). Czernienko doprowadził do przywrócenia jako członka KPZR Wiaczesława Mołotowa, rozpatrywał także podobne rozwiązanie w odniesieniu do innych żyjących członków tzw. grupy antypartyjnej: Gieorgija Malenkowa i Łazara Kaganowicza. Opowiadał się też m.in. za polityczną rehabilitacją Józefa Stalina, ale nie zdążył tego przeprowadzić, zmarł bowiem w marcu 1985 roku, po równo 13 miesiącach rządów. Jego następcą został Gorbaczow, który, mimo bliskiej z nim współpracy, był z przekonania reformistą i „człowiekiem Andropowa”.