В 1886 г. генерал-майор А. Н. Куропаткин был направлен в секретную командировку в Турцию для сбора сведений о турецких укреплениях на Босфоре. Впоследствии он вспоминал об этом: «Сведения о босфорских позициях в Главном штабе были недостаточны. Работа для пополнения их и определения, какими минимальными силами можно ограничиться при занятии нами Босфора, по воле государя была поручена мне, но она требовала большой тайны, поэтому пришлось принять на себя "для пользы службы" роль секретного агента, или попросту шпиона. Работы нужно было производить только переодетым, с фальшивым именем. Поимка такого лица с чертежами турецких укреплений привела бы в Турции к быстрой расправе — виселице. Заступничества нашего посла в Константинополе не следовало ожидать: он даже не должен был знать о моей командировке. Я мог надеяться (и то не на защиту в случае поимки, а на помощь при работах) на нашего военного агента в Константинополе генерала Филиппова и его помощника подполковника Чичагова, к тому же с первым можно было видеться только секретно».
Куропаткину был выдан паспорт на имя коллежского асессора Александра Николаевича Ялозо, подписанный генерал-губернатором Петербурга Д. Ф. Треповым. На Босфоре он должен был появиться в качестве скупщика скота. Прикрытие этой миссии осуществлял секретный агент Ахмет Заиров. Секретная миссия генерала Куропаткина завершилась успешно.
Его деятельность на посту военного министра была сопряжена с попытками реформирования русской армии, которые воспринимались в правящих кругах с большой настороженностью. Он хорошо понимал значение разведывательной и контрразведывательной деятельности в обеспечении главных задач укрепления национальной безопасности России. Угрозы для России с Запада ассоциировались в его представлении с деятельностью Германии, а с Востока — с усиленной милитаризацией Японии.
Создание российской контрразведки долгое время приписывалось и продолжает приписываться в зарубежной литературе деятельности германских спецслужб. Ее организатором нередко называли даже легендарного Вильгельма Штибера. Он на самом деле в 1858-1863 гг. работал одновременно на Пруссию и на Россию, уделяя особое внимание слежке за оппозиционными российскими политиками, которые выезжали из России за рубеж. Однако он никогда не являлся организатором российских спецслужб, а скорее наоборот, талантливо использовал их опыт. Факты свидетельствуют, что отечественная контрразведка создавалась усилиями наиболее талантливых сотрудников Военно-ученого комитета Главного штаба русской армии и Департамента полиции Министерства внутренних дел Российской империи.
20 января 1903 г. военный министр А. Н. Куропаткин направил на имя Николая II подготовленную в канцелярии Военно-ученого комитета докладную записку с обоснованием создания нового секретного подразделения военного ведомства. В ней говорилось, что «совершенствующаяся с каждым годом система боевой подготовки армии и предварительная разработка стратегических планов на первый период кампании приобретают действительное значение лишь в том случае, если они остаются тайной для предполагаемого противника. Поэтому делом первостепенной важности является сохранение этой тайны и обнаружение деятельности лиц, выдающих ее иностранным правительствам. Между тем раскрытие этих государственных преступлений являлось делом чистой случайности, результатом особой энергии отдельных личностей или стечением счастливых обстоятельств, ввиду чего является возможным предположить, что большая часть этих преступлений остается нераскрытыми и совокупность их грозит существенной опасностью государству в случае войны».
Как опытный военный разведчик, А. Н. Куропаткин считал, что возложить розыск лиц, занимающихся шпионажем, на Департамент полиции невозможно по следующим причинам: «во-первых, потому, что названное учреждение имеет свои собственные задачи и не может уделить на это ни достаточно сил, ни средств, во-вторых, потому, что в этом деле, касающемся исключительно военного ведомства, от исполнителей требуется полная и разносторонняя компетентность в военных вопросах».
Поэтому военный министр полагал целесообразным создать в составе Главного штаба Военного министерства специальную структуру, которая специально занималась бы розыском иностранных шпионов и изменников по двум направлениям: руководящему и исполнительному. Руководящее направление предполагало вскрытие вероятных путей разведки иностранных государств, а исполнительное — непосредственное наблюдение за этими путями. «Деятельность сего органа должна заключаться в установлении негласного надзора за обыкновенными путями тайной военной разведки, имеющими исходной точкой иностранных военных агентов, конечными пунктами — лиц, состоящих на нашей государственной службе и занимающихся преступною деятельностью, и связующими звеньями между ними — иногда целый ряд агентов, посредников в передаче сведений…»
В составе такого органа, по мнению Куропаткина, должны находиться военные специалисты, хорошо знающие организацию военных учреждений в России, а также специалисты по тайному розыску, попросту агенты-сыщики.
В соответствии с этим он предлагал учредить при Главном штабе особое Разведочное отделение, поставив во главе его начальника отделения в чине штаб-офицера, делопроизводителя в чине обер-офицера и писаря. «Для непосредственной сыскной работы сего отделения полагалось бы воспользоваться услугами частных лиц — сыщиков по вольному найму, постоянное число коих, впредь до выяснения его опытом, представлялось бы возможным ограничить шестью человеками».
Официальное учреждение такого органа представлялось невозможным, поскольку терялся главный шанс успешности его деятельности: тайна его существования. «Поэтому было бы желательно создать проектируемое отделение, не прибегая к официальному учреждению его…» По этим соображениям в официальной структуре ГУ ГШ Разведочное отделение отсутствовало, а для личного состава предполагались следующее официальное наименование должности: «стоящие в распоряжении начальника Главного штаба». Далее, предполагалось назначить содержание начальнику отделения «такое же, какое получают начальники прочих отделений Главного штаба». Совокупные расходы на содержание всего отделения должны были составить 27 600 руб. в год. Изложенные меры представлялось желательным привести в исполнение по возможности безотлагательно. Уже на следующий день, 21 января, на документе появилась резолюция Николая II: «Согласен». Начало российской контрразведывательной службе было положено.
Разведочное отделение создавалось в обстановке строгой секретности. Никто не знал даже адреса, по которому располагалось помещение управления первой российской контрразведки. Впервые адрес «Таврическая, д. 17» прозвучал в ходе работы Чрезвычайной следственной комиссии Временного правительства «по расследованию противозаконных действий бывших царских министров, главноуправляющих и других высших должностных лиц». Основным районом деятельности определялся Петербург и его окрестности. Ведь именно здесь находились главные объекты внимания иностранных разведок, были размещены посольства и военный атташат иностранных государств, а также многочисленные торговые, финансовые и прочие представительства иностранного капитала. Приоритетными становились задачи «охранения военной тайны и обнаружения лиц, выдающих ее иностранцам».