Powtórne aresztowanie 12 stycznia 1937 Szałamow został aresztowany po raz drugi, tym razem pod zarzutem „kontrrewolucyjnej działalności trockistowskiej”. 2 czerwca 1937 roku skazano go na pięć lat łagru na Kołymie. Kolejny wyrok, 10 lat łagru – standardowy dla radzieckiego wymiaru sprawiedliwości „domiar” – otrzymał w roku 1943 za „antyradziecką agitację” na mocy osławionego artykułu 58. Agitacja polegała w tym przypadku na określeniu emigracyjnego pisarza Iwana Bunina, laureata Nagrody Nobla, mianem „klasyka literatury rosyjskiej”.

Na Kołymie Szałamow pracował w kopalniach złota, węgla oraz przy wyrębie lasu. Zapadł na tyfus. W roku 1946 był już „dochodiagą” – więźniem na granicy śmierci z wyczerpania. Przeżył dzięki pomocy współwięźnia – lekarza, Andrieja Pantiuchowa, któremu udało się skierować go na kurs felczerski.