Пока Ягоду «брали в работу» по эпизоду отравления Ежова, нельзя было останавливаться на других направлениях. Курский и Николаев-Журид с усердием разматывают дело о «заговоре в руководстве НКВД». 5 апреля снят с должности первого заместителя наркома связи Г.Е. Прокофьев. С учетом последних событий он всерьез задумался о том, чтобы последовать примеру своего давнего знакомого Погребинского и покончить с собой. «Ожидание было невыносимым», – вспоминает его жена .
Тот день – 5 апреля – стал последним рабочим днем начальника транспортного отдела ГУГБ НКВД Шанина. 6 апреля был выходной, а уже 7 апреля Шанин отстранен от должности . С этого дня обладатель «садистских наклонностей» и его жена «жили в тревоге, в ожидании» . Сумрачные дни и черные ночи медленно сменяли друг друга в бесконечном преддверии ареста…
Взятие под стражу Гая вызвало чистку в Особотделе, подобную той, которая до этого прокатилась в СПО. Был арестован его бывший заместитель Михаил Горб, о котором известный писатель И. Бабель говорил: «Вот парадокс. Ему приходится расстреливать людей, а ведь это самый сентиментальный человек, каких я знал…» . В свое время М. Горб считался своим человеком в доме Владимира Маяковского и Лили Брик, куда запросто захаживали также Агранов и сотрудник СПО В.М. Горожанин. Один из них подарил Маяковскому тот револьвер, выстрел из которого оборвал жизнь поэта. В дни дружеских чаепитий среди литературно-художественной богемы упомянутые чекисты чувствовали большую уверенность в себе и, хотя пытались проявить обаяние, внушали окружающим глубокий страх. По воспоминаниям современников, «тонкие губы» Агранова «всегда змеились не то насмешливой, не то вопрошающей улыбкой. Умный был человек» . Подобное впечатление, видимо, производил и Михаил Горб. Он умел втираться в доверие. Племянник издателя А.М. Уманского, который 5 июля 1917 г. в газете «Живое слово» опубликовал сведения о подкупе Ленина германским Генеральным штабом , украинский эсер, Горб в дни гражданской смуты попал в руки гайдамаков гетмана Скоропадского, однако по неизвестной причине был ими отпущен. Вовремя перейдя в большевики, он успешно делал карьеру в центральном аппарате ГПУ—НКВД, используя своего дядю – к тому времени уже эмигранта – для того, чтобы закинуть сеть чекистской агентуры в эмигрантскую среду. По воспоминаниям В. Кривицкого, относящимся к 1935 г., «Горб не был формалистом», но особой сентиментальности Кривицкий в нем не обнаружил . Вероятно, чувствительность с особой силой проявилась в Михаиле Савельевиче, лишь когда он в полной мере осознал свои грядущие безрадостные перспективы. Это можно сказать не об одном только старшем майоре госбезопасности М. Горбе. Многие руководящие работники НКВД центра весенними вечерами 1937 г., с приближением ночной тьмы – времени арестов и черных машин-автозаков с желтыми очами-фарами, – испытывали приступы сентиментальности, острой жалости к себе и панического страха. Шумели частые в ту весну дожди со снегом (в марте 1937 г. в Москве выпало три месячные нормы осадков), словно рыдая над печальными судьбами этих людей. По мокрому асфальту шелестели шины черных автомобилей, развозящих арестные команды по адресам новых жертв лубянского Молоха. Уличные фонари печально освещали со всех сторон, словно сцену, пустынную в этот час площадь Дзержинского. Все это весьма располагало к депрессии. Начальник ИНО ГУГБ Слуцкий как-то в минуту подобной откровенности провидчески сказал Кривицкому о себе и других «с горечью: – Знаешь, мы и вправду старые. Придут за мной, придут за тобой, придут за другими. Мы принадлежим к поколению, которому суждено погибнуть» .
В те дни подверглись аресту и другие приближенные к Гаю сотрудники Особотдела ГУГБ (М.Л. Богуславский, М.В. Уманский , И.М. Николаев-Рамберг, Б.К. Ильк; брат последнего Вилли Ильк, также репрессированный, находился в близких отношениях с тещей Ягоды – родной сестрой Свердлова, хотя по возрасту годился ей едва ли не во внуки) . Братья Ильки были выходцами из Австрии. За два года до ареста Бертольд Ильк возглавлял следствие по группе итальянских коммунистов, «лидером» которых оформили некоего Луиджи Сичильяно. За сочувствие к внутрипартийной оппозиции итальянца исключили из Высшей партшколы и подвергли самому тяжкому для коммуниста наказанию – перевели в разряд трудящихся , отправив работать на Харьковский турбинный завод. Там, лично убедившись в том, что положение советских рабочих намного хуже, чем в фашистской Италии, он принял решение подать документы на выезд из СССР и возвращение в Италию. За это арестовали не только его, но и всех его соотечественников, с кем он дружил или просто общался, общею численностью пятнадцать человек. В феврале 1935 г. Ильк представил Молчанову обвинительное заключение, где говорилось: «Сичильяно совместно с троцкистами-итальянцами Мерини и Бернетичем создал контрреволюционную троцкистскую группу… Ее члены были связаны с зарубежными троцкистами, посылали за границу информацию контрреволюционного характера об СССР» и т.п. Примечательно, что арест Илька два года спустя никак не отразился на судьбе этих итальянцев: никто из них до самой смерти не вышел на свободу .