Когда это было достигнуто, Гейдрих пронизал своими людьми из СД все ключевые органы в рейхе и организовал постоянное наблюдение за партийными функционерами всех рангов, а также за всей общественной и даже частной жизнью в Германии. В июне 1936 г. Гиммлер объединил прусскую тайную государственную полицию (гестапо) с полицией отдельных земель в единую тайную полицию (гестапо), а криминальную полицию земель собрал в единую имперскую криминальную полицию (крипо) в рамках государственной полиции безопасности (СС). Распоряжением рейхсфюрера СС от 26 июня 1936 г. она была объединена с СД и подчинена шефу полиции безопасности и СД Гейдриху. Главное управление СД имело сначала 5, а затем 7 отделов, из которых два занимались тайной разведкой — «внутренняя СД» (сыск) и пока еще только зарождавшаяся «внешняя СД».
27 сентября 1939 г. произошло официальное слияние гестапо, крипо и СД, уже фактически сведенных вместе Гиммлером в 1936 г. в некое новое образование во главе с единым управлением — Главное управление имперской безопасности (РСХА) в Берлине с резиденцией на Принц-Альбрехтштрассе. Гестапо стало IV управлением РСХА, крипо — V управлением, служба внутренней разведки — VI управлением. Высшим руководителем РСХА, именуемым «начальник полиции безопасности и СД», стал обергруппенфюрер СС и генерал полиции Рейнхард Гейдрих. Второй компонентой полицейской власти Третьего рейха была государственная полиция порядка во главе с обергруппенфюрером СС и генералом полиции Куртом Делюге.
Однако на биографии Гейдриха было «неизгладимое пятно»: одна из его бабушек была еврейкой, и его «арийское происхождение» было сфальсифицировано. Он, правда, пытался уничтожить все доказательства и даже заменил надгробие на могиле этой бабушки Сары Гейдрих на лейпцигском кладбище другим камнем с ничего не говорящей надписью «С. Гейдрих». Но Гиммлер и Борман знали об этом и использовали это к своей выгоде. В свою очередь, это, конечно, не укрылось от Гейдриха, и в грызущей его жажде отмщения он, со своей стороны, исследовал происхождение всех нацистских вождей, начиная с самого Гитлера. С дотошностью бухгалтера копил он в своем досье компромат на каждую важную персону в Третьем рейхе. Когда Вальтер Хаген называет в своей книге «Тайный фронт» Гейдриха «демоническим нигилистом», он несколько ошибается в определении. Гейдрих был скорее «нигилистом, начиненным динамитом», так как преступления, творимые этим человеком, проистекали не из неконтролируемого порыва, а от неусыпного интеллекта. Его отличала беспощадная жестокость и полнейшее безразличие к судьбам и страданиям людей.
Примером почти «гениального» таланта Гейдриха в преступных делах может служить «дело Тухачевского». Одному из агентов Гейдриха удалось в конце 1936 г. внедриться в парижский центр русской белоэмиграции. Главным его поручителем был бывший царский генерал Скоблин. Гейдриху было известно, что этот человек работал на двух хозяев и одновременно следил по поручению Советов за эмигрантами, но шефа СД это не тревожило. Так или иначе, этот агент узнал через Скоблина о неких намерениях неких кругов свергнуть Сталина. Это якобы было в планах маршала Михаила Николаевича Тухачевского и нескольких высших офицеров Красной Армии, которые в прошлом сотрудничали с рейхсвером и получили опыт работы в германском генеральном штабе. Однако Скоблин ничем не мог подтвердить свои показания. И тогда у Гейдриха возник план ликвидировать всю военную верхушку России с помощью искусной фальсификации улик и тем самым лишить Красную Армию ее военной элиты. Для этой акции Гейдриху требовались подлинные подписи генералов фон Секта и Хаммерштейна-Экворда, маршала Тухачевского и других советских генералов, а также письменные документы о совместной работе рейхсвера и Красной Армии до 1933 г. Шеф СД связался с адмиралом Канарисом и попросил у него достать такие документы. У Канариса сразу же возникло подозрение, что Гейдрих затевает какую-то чертовщину, и наотрез отказался. Возможно, он сделал это, посоветовавшись с Пикенброком и Остером. Как пишет историк Абсхаген, адмирал, вероятно, должен был иметь действительно надежные сведения о путчистских намерениях советского маршала и не был склонен отказываться от возможности во взаимодействии вермахта с готовой к перевороту верхушкой Красной Армии «добиться усиления тех националистических факторов в обеих странах, которые позволили бы пресечь политические амбиции как коричневой, так и красной диктатуры».
Как подчеркивает Шелленберг, Канарис отказался выполнить желание Гейдриха, и тогда «по приказу Гитлера был совершен взлом в помещении архива вермахта, а также в одном из служебных помещений абвера». Там действительно нашли подлинные материалы о сотрудничестве рейхсвера с Красной Армией. Команда взломщиков инсценировала пожар и даже вызвала пожарных. Добытые материалы были приведены в состояние, сообразное с поставленной Гейдрихом целью, дополнены вымыслом и отосланы с доверенным лицом Гейдриха группенфюрером СС Германном Беренсом в Прагу. Там предполагалось войти в контакт с тогдашним президентом ЧСР Бенешем. Расчет был на то, что тот уведомит Сталина, что и произошло. Сталин, как утверждают, попросил Прагу связаться с одним из сотрудников русского посольства в Берлине. Тот выехал в Москву и вскоре вернулся в Берлин в сопровождении наркома НКВД Ежова. К всеобщему удивлению, последний предложил за гейдриховские материалы три миллиона рублей и, получив согласие Гейдриха, заплатил эту сумму.