Jako premier Stosunki z Breżniewem i próby reform thumb|230px|Kosygin i prezydent Lyndon B. Johnson w 1967 roku Gdy Chruszczow został zdymisjonowany w październiku 1964 roku, Kosygin zastąpił Chruszczowa na stanowisku premiera, co zapoczątkowało jego przywództwo w ZSRR, które obejmował wraz z Leonidem Breżniewem (sekretarz generalny partii) i Anastasem Mikojanem, a następnie Nikołajem Podgornym jako przewodniczącym Prezydium Rady Najwyższej ZSRR. Nowe przywództwo miało bardziej konserwatywny charakter aniżeli rząd Chruszczowa. Kosygin wraz z Podgornym i Andriejem Kirilenko stanowili niemniej jednak najbardziej liberalne skrzydło.. W październiku 1964 roku, podczas uroczystości ku czci radzieckich kosmonautów, Breżniew wezwał do wzmocnienia aparatu partyjnego. Wystąpienie było początkiem wielkiej kampanii skierowanej przeciwko Kosyginowi. Kilka gazet w tym „Prawda” i „Kommunist” skrytykowało pracę Rady Ministrów i oskarżyło o ten stan rzeczy Kosygina. Szczególnej krytyce zwolennicy Breżniewa, a zwłaszcza Konstantin Czernienko, poddali politykę Kosygina, która doprowadziła do wytwarzania większej ilości dóbr konsumpcyjnych kosztem wydatków na obronę i rolnictwa. Kosygin został osłabiony zwłaszcza po 23. Zjeździe Partii, na którym spore grono polityków oskarżyło go o budowę gospodarki przypominającej kapitalizm.