Pomimo dokonanych w przerwie obrad perswazji i nacisków kilku członków KC, w tym Mołotowa, Piatnicki odmówił wycofania swego oświadczenia. Nazajutrz Jeżow ogłosił, że NKWD ma dowód, że Piatnicki był agentem carskiej Ochrany i zaproponował głosowanie nad wotum nieufności wobec Piatnickiego. Nadieżda Krupska, która zabrała głos w jego obronie i Grigorij Kaminski głosowali przeciw. Stalin zapytał, dlaczego Piatnicki sam nie mówi, co o tym wszystkim sądzi, na co ten odparł, że skoro go nie chcą, to może wyjść – i wyszedł.

7 lipca 1937 został usunięty z funkcji kierownika wydziału polityczno-administracyjnego KC, a 27 lipca 1937 aresztowany przez NKWD. Był więziony na Butyrkach i w Lefortowie i okrutnie torturowany przez oficera NKWD Aleksandra Langfanga – po 18 sesjach tortur miał połamane żebra, obrażenia wewnętrzne i zmasakrowaną twarz. 12 października wykluczony z KC postanowieniem plenum KC (10-12.X.1937). 28 lipca 1938 skazany na śmierć przez Kolegium Wojskowe Sądu Najwyższego ZSRR z zarzutu o „kierowanie kontrrewolucyjną organizacją w Kominternie i przygotowywanie zamachu terrorystycznego”.