Реклама Google — средство выживания форумов :)
Летом 1936 года Рютин был возвращён в Москву в связи с готовившимися тогда Московскими процессами. Содержался во внутренней тюрьме НКВД. Однако отказался отвечать на вопросы следователя и подписывать заранее заготовленные «протоколы допросов» несмотря на жестокие пытки и обещания дать свободу. Пытался покончить с собой.
10 января 1937 года Военная коллегия Верховного Суда СССР приговорила Рютина к смертной казни (процесс по вынесению приговора длился 25 минут, Рютин отказался от дачи показаний: «на вопрос председателя суда Ульриха: „Признаёт ли подсудимый себя виновным?“ Рютин ответил, что „ответа на этот вопрос дать не желает и вообще отказывается от дачи каких-либо показаний по существу предъявленных ему обвинений“», Рютин М. Н. На колени не встану. С. 349—350.). Расстрелян в тот же день. Погребён в Донском монастыре. Вместе с Рютиным были расстреляны также и 11 ранее репрессированных его сторонников, в том числе А. Каюров, Иванов и др.
Жена Рютина, Евдокия Михайловна (дочь председателя ЦРК ВКП(б) М. Ф. Владимирского) умерла в 1947 году в лагере в Казахстане.
Сын Василий расстрелян в 1938 году в Лефортовской тюрьме,
Сын Виссарион убит уголовниками в лагере на Дальнем Востоке в 1943 (?) (точная дата смерти неизвестна).
В 1956 и 1958 годах оставшаяся в живых дочь Рютина, Любовь Мартемьяновна, прошедшая через застенки НКВД и лагеря, подавала ходатайство о реабилитации отца. Однако Н. С. Хрущёв и его соратники, хотя и не считали оппозиционеров контрреволюционерами, были ещё не готовы признать за членами партии права на оппозицию.
Рютина полностью реабилитировали и восстановили в партии лишь в 1988 году.
орден Ленина (22.02.1941) — среди 35 награждённых в ознаменование XXIII годовщины Красной армии, «за успешное выполнение боевых заданий и выдающиеся достижения в боевой и политической подготовке и воспитании войск»
2 ордена Красного Знамени (1940, 02.01.1942)[источник не указан 862 дня]
медаль «XX лет Рабоче-Крестьянской Красной Армии»