Po śmierci Stalina (1953) pozostał w ścisłym kierownictwie, wspierając Chruszczowa w destalinizacji. W 1957 roku poparł Nikitę Chruszczowa w walce z tzw. „antypartyjną grupą” (Mołotow, Kaganowicz, Malenkow i inni). Od 1956 Mikojan w poważnym stopniu określał kurs sowieckiej polityki zagranicznej. Podjął m.in. bezpośrednią decyzję o stłumieniu powstania węgierskiego 1956. W 1962 pośredniczył w rozmowach między Fidelem Castro, Johnem F. Kennedym i Chruszczowem podczas kryzysu kubańskiego.
W latach 1964–1965 sprawował urząd Przewodniczącego Prezydium Rady Najwyższej ZSRR, czyli formalnej głowy państwa; prawdopodobnie nie uczestniczył w spisku przeciwko Chruszczowowi, ale wiedział o nim i zaakceptował nowe władze. W 1965 odszedł na emeryturę (tj. został odsunięty przez nową ekipę Breżniewa).
Mikojan pozostawał w ścisłym kierownictwie partii i państwa ponad 50 lat (członkiem KC partii był od 1923 do 1976, czyli przez 53 lata). Fanatyczny komunista. Nie bał się przeciwstawić niekiedy Stalinowi, a mimo to przetrwał – uznawany jest za przykład radzieckiej długowieczności politycznej. Według sowieckiego żartu jego pamiętniki powinny nosić tytuł Od Iljicza (Lenina) do Iljicza (Breżniewa) bez zawału i paraliżu. Mąż Aszchen z domu Tumanian.