U progu wielkiej czystki 17 kwietnia 1936 aresztowany przez NKWD, torturowany w śledztwie (połamano mu żebra i nogi), po ośmiu miesiącach zgodził się uczestniczyć w publicznym procesie pokazowym za cenę ocalenia życia bliskich. Od 23 stycznia 1937 podsądny w drugim procesie moskiewskim przed Kolegium Wojskowym Sądu Najwyższego ZSRR (obok Jurija Piatakowa, Karola Radka, Leonida Sieriebriakowa, Grigorija Sokolnikowa i in.). 30 stycznia 1937 skazany na śmierć, rozstrzelany dzień później. Ciało skremowano w krematorium na Cmentarzu Dońskim, prochy pochowano anonimowo.
17 kwietnia 1986 pośmiertnie zrehabilitowany przez plenum Sądu Najwyższego ZSRR.
Odznaczony Orderem Czerwonego Sztandaru i nagrodzony złotym zegarkiem.
Życie prywatne Rodzina i krewni Nikołaja Murałowa byli również w okresie wielkiego terroru ofiarami prześladowań: Żona - Anna, przeżyła 17 lat w więzieniu, obozach koncentracyjnych (łagrach) Gułagu i na zesłaniu, zmarła w 1981 Syn - Władimir, aresztowany w 1936, zmarł w łagrze w 1943 Córka - Halina Poleszczuk, dłuższy czas przebywała na zesłaniu Brat – Aleksandr Murałow, komisarz ludowy rolnictwa RFSRR, prezydent Wszechzwiązkowej Akademii Nauk Agronomicznych (ros. ВАСХНИЛ) – aresztowany w X.