Настоящее строительство самостоятельной службы разведки и контрразведки в Большом генеральном штабе было начато только в конце 1912 г. По распоряжению начальника оперативного отдела полковника (впоследствии — генерала от инфантерии) Людендорфа подполковнику (позже — полковнику) Николаи было дано задание реформировать разведслужбу. Новый отдел получил официальное обозначение «III-b». Тем самым был сделан первый шаг в решении давно назревшей задачи. Ведь до этого при корпусных штабах (военных округах) имелись только немногие офицеры связи и разведки, эпизодически инструктировавшие свое начальство о важнейших моментах, какие могут встретиться в будущем. Они поддерживали связь с пограничными войсками и полицией, которые были ответственны за борьбу со шпионажем.
Перед началом Первой мировой войны отдел «III-b» насчитывал около 80 офицеров. Постепенно начали увеличиваться и группы разведофицеров в пограничных военных округах. Но сфера задач ограничивалась чисто военным сектором. В этих условиях догнать тайные службы потенциальных противников, активно работавшие уже много десятилетий, не представлялось возможным. К тому же Людендорфу удалось добиться того, что бюджет отдела «III-b» был увеличен до 450 000 марок в год. Но что мог дать такой бюджет по сравнению с 13 миллионами рублей, выделяемых на эти цели Россией! К тому же на тайную службу уже было наклеено позорное клеймо «грязного дела», и полковнику Николаи лишь с огромным трудом удалось постепенно несколько изменить отношение общества и руководства к секретным службам.
Разработку конкретных операций Николаи препоручил своим референтам, а исполнительные полицейские функции — прикомандированному к нему советнику полиции Бауэру. Свою задачу Николаи видел не столько в техническом выполнении ставившихся перед ним задач, сколько в консультировании вышестоящих начальников на основе полученных разведывательных данных. Он хотел быть прежде всего офицером генерального штаба, добросовестно делающим выводы из полученных донесений. Однако сам он в своей книге «Тайные силы» утверждает, что анализом донесений отдел «III-b» не занимался. Это так и было, однако из книг Николаи, опубликованных после 1918 г., стало известно многое об «аналитическом подходе» к сообщениям, хотя ничего существенного об общей линии действий, организации и условиях, в которых действовала тогда служба военной разведки и контрразведки, в них не было. Бывший шеф службы «III-b» об этом умолчал, как и обо всех своих тайных помощниках и их действиях. Для этого у него были свои причины, так как по условиям Версальского договора 100 тысячный рейхсвер очень строго контролировался победившими союзными державами.
Те, кто имел дело во время войны с полковником Николаи, знали его как офицера, наделенного крайне обостренным чувством долга. Он очень внимательно наблюдал за всем, что творилось в Большом генеральном штабе и в штабах крупных войсковых соединений, и с присущим ему гражданским мужеством критиковал решения, принимаемые по небрежности, легкомыслию или слабости характера. Он постоянно доказывал, что моральная слабость руководства гораздо опаснее, чем любой шпионаж и другие подобные действия противника. Отсюда вполне понятно, что этот офицер, опубликовав свои воспоминания, не стал больше заниматься вопросами тайной разведки и контрразведки и даже не попытался войти в контакт с тайными службами нового вермахта. Из этого вовсе не следует, что Николаи был недостаточно компетентным начальником разведки. Еще перед началом Первой мировой войны он строго придерживался правила, чтобы его офицеры знали своих агентов в лицо и «прощупывали их до печенок», прежде чем давать им задания. Следовало учитывать все свойства характера и способности агента — как хорошие, так и плохие, причем последние также должны были использоваться, а не ставить на агенте крест. Хотя он и был твердым сторонником жесткой прусской военной дисциплины, его отличали изобретательность и динамичность. Он был кем угодно, но не бюрократом, и не было другого офицера генерального штаба, который настолько подходил для должности начальника отдела «III-b», как полковник Николаи.
Основным направлением деятельности германской военной тайной службы был сбор сведений о строительстве французской и русской сухопутных армий, а также английского военно-морского флота, выявление оперативных планов их генеральных штабов. Особые трудности создавало ведение разведки в России, чья разветвленная и мощная полицейская система контроля и слежки делала весьма рискованным любое нежелательное любопытство в отношении армии. Дело усложняла и огромная территория царской империи, и строгий контроль, и не в последнюю очередь языковые трудности. В таких условиях было исключительно трудно вербовать нужных агентов и лазутчиков. Приходилось тратить значительные средства на подкуп и оплату выполненных заданий. А немецкая сторона проявляла завидную скупость в вопросе о выделении денег на тайную службу. В штабах 1 го и 20 го корпусов в Кёнигсберге и Алленштайне в то время в отделах разведки и контрразведки числилось по одному офицеру и одному унтер-офицеру на должности писаря. И это при том, что разведка военных приготовлений в России по мере ухудшения политической обстановки становилась все очевиднее серьезной потребностью Германии и ее союзницы Австро-Венгрии.