В структурном отношении Зондерштаб включал в себя четыре отдела. Первые три занимались оперативной деятельностью, четвертый — отвечал за административно-хозяйственное обеспечение.
Разделив оккупированную территорию СССР на пять областей (такое деление сохранялось примерно до осени 1943 г., после чего осталось четыре области), Зондерштаб „Р“ вел разведку и заброску агентуры в партизанские отряды и подпольные группы. Вся работа штаба строилась через межобластные резидентуры (или „Разведывательно-резидентские области“), которые охватывали своей деятельностью сразу несколько регионов. Общая численность сотрудников Зондерштаба „Р“ составляла более 1000 человек (по другим данным, от 300 до 500 человек).
В начале 1943 г. Смысловский завершил формирование Особой дивизии „Россия“ (Sonder-Division R), куда были включены 12 учебно-разведывательных батальонов. Это соединение представляло собой диверсионное формирование, личный состав которого прошел подготовку в разведшколах абвера, а затем перешел в подчинение Зондерштаба „Р“ и использовался в составе специальных групп и подразделений для выполнения заданий особой важности.
Зондерштаб „Р“ никогда полностью не замыкался на контрразведывательной работе (хотя он и задумывался как орган для противодействия партизанам), но был вовлечен и в зафронтовую разведывательную деятельность, о чем говорят как советские, так и немецкие документы. Агентура, состоявшая из бывших пленных красноармейцев, получала задачи выявлять новые формирования РККА, распространять провокационные слухи, чтобы подорвать боеспособность воинских частей, склонять советских военнослужащих к переходу через линию фронта, совершать диверсионные акты в войсках и в их тылу.
Из-за ведомственных интриг в начале декабря 1943 г. из ОКХ пришло указание расформировать орган. Смысловский, заподозренный немцами в двурушничестве, оказался под домашним арестом, а часть сотрудников и агентура были переданы штабу „Валли“ и СД. Сам Смысловский впоследствии утверждал, что причиной ареста якобы послужили его контакты с одним из украинских лидеров, Тарасом Бульбой-Боровцом. Кроме того, недоброжелатели Смысловского из эшелонов эсэсовской разведки могли формально обвинить его в плохой организации разведывательной работы (что косвенно затрагивало не только Смысловского, но и его начальников из штаба „Валли“ и руководства абвером — соперников гиммлеровского „Черного ордена“), тщательно подобрав все факты провалов агентуры, утечки оперативной информации и неудачных операций против „лесных бандитов“. Еще одной причиной ареста главы Зондерштаба могли стать интриги „солидаристов“ (членов Национально-трудового союза, с началом войны массово пошедших, исходя из тактических соображений, на немецкую службу), которые развернули у него под носом свою политическую деятельность. Это ставило вопрос о способности начальника Зондерштаба контролировать подчиненных и навести в своей организации порядок.
Следствие велось четыре месяца. Процессы, связанные с роспуском Зондерштаба, отрицательно сказались на антипартизанской деятельности немцев, они лишись значительного потока разведывательной информации.
В конце апреля — в начале мая 1944 г. полковник Смысловский был полностью оправдан. Более того, учитывая его заслуги в борьбе с советской разведкой и партизанами, его вызвали в Ставку ОКБ и наградили орденом Германского орла II степени с мечами. В мае 1944 г. Смысловского вызвали в ОКВ, где ему вновь предложили возглавить разведывательный орган.
Последний отличался от Зондерштаба „Р“ тем, что основное внимание уделялось проведению агентурной разведки в тылах советских войск.
Получив предписание, Борис Алексеевич прибыл в варшавскую разведшколу. Опираясь на ее базу, он приступил к созданию своей разведывательной структуры (штаба части особого назначения — Stab Einheit z.b.V.), используя сотрудников, работавших ранее в Зондерштабе (многие офицеры были возвращены штабом „Валли-I“). Рядовой состав отбирался среди курсантов учебных лагерей и в частях спецназначения германской армии.
В начале лета 1944 г. Смысловский в основном контролировал подготовку разведывательных и диверсионных групп под Варшавой, организовывал их переброску за линию фронта. В августе 1944 г. поступил приказ о передислокации штаба в город Вайгельсдорф (местечко Совиные горы — Eulengebirge), недалеко от Бреслау (Верхняя Силезия), где Смысловский возглавил „Русскую объединенную разведшколу“. В его структуру вошел личный состав из 1 — го, 3-го и 4-го учебно-тренировочных лагерей варшавской разведшколы, а также разведчики и радисты, эвакуированные из Восточной Пруссии и Прибалтики, до этого проходившие обучение в разведшколах Летсе, Валги и Стренчи.
С августа по декабрь 1944 г. Смысловскому удалось наладить механизм по подготовке и переброске разведчиков в тыл наступавшей Красной армии. За это время через разведшколу в Вайгельсдорфе прошло несколько тысяч советских военнопленных, окончивших специальные курсы. Перед заброской агенты направлялись в Гарнекопф и Штебер (в 60–65 км от Берлина), где дислоцировались органы штаба „Валли“. Здесь все разведчики проверялись, получали необходимые инструкции и снаряжение. Затем они убывали на машинах в подчиненные вайгельсдорфской школе „мельдекопфы“ (пункты по переброске агентуры), где изучали свое задание, документы и район выброски.
Штабу и школе Смысловского подчинялись четыре „мельдекопфа“, которые поочередно располагались вдоль линии германо-советского фронта (в Зихельберге, в 70 км от города Тори; в городе Ласк, в 30 км от Литцманштадта; в Кракау; в городе Нова Весть в Словакии). Каждый „мельдекопф“ состоял из пяти сотрудников, включал в себя 2–3 передовых пункта для прохождения агентурных групп и агентов-одиночек. Одновременно с этим сотрудники „мельдекопфов“ занимались вербовкой советских военнопленных и местного населения, чтобы использовать их для проведения тактической разведки.
Смысловский прилагал усилия, чтобы повысить оперативность и качество работы своего штаба, школы и переправочных пунктов. Разумеется, осенью — зимой 1944 г. добывать разведывательную информацию стало сложно. Советская контрразведка успешно пресекала попытки немцев собирать сведения о частях и соединениях Красной армии. Борьба на невидимом фронте, тем не менее, продолжалась. Наряду с этим, он не переставал вести переговоры с ОКХ и осенью 1944 г. добился переименования Русской объединенной разведшколы в 1-ю Русскую национальную дивизию, получил право расширить отбор кадров для ведения оперативной разведки.
К 20 января 1945 г. советские войска почти заняли Силезский промышленный район, а в начале февраля вышли к Одеру, захватив плацдармы на его западном берегу в районах Бреслау, Ратибора и Оппельна. 22–23 января штаб Смысловского вынужден был спешно покинуть Вайгельсдорф и отойти в район Дрездена, а затем — в Маркнойкирхен (недалеко от Плауэна) и далее в Бад-Эльстер, где дислоцировались штаб „Валли-I“ и управление оперативной фронтовой разведки ОКХ на Востоке.
В феврале 1945 г. формирование Смысловского стало именоваться 1-й восточной группой фронтовой разведки особого назначения ОКХ (Einheit z.b.V. OKH-Generalstabes. Frontaufkl rungstruppl, Ost). 2 февраля 1945 г. в Бад-Эльстере Смысловский получил приказ о переименовании своих частей — из 1-й Русской национальной дивизии в „Зеленую армию особого назначения“ (Die Grune Armee z.b.V.). К этому времени псевдоним „фон Регенау“ был хорошо известен советской разведке, и Смысловский, по согласованию с Генштабом ОКХ, взял себе новый псевдоним — „Артур Хольмстон“, под которым он был утвержден командующим „Зеленой армии“. В марте 1945 г. части „Зеленой армии“ дислоцировались в следующих населенных пунктах: штаб и подразделения 2-го полка — в Маркнойкирхене (Markneukiichen), школа по подготовке агентов и подразделения 2-го полка — в Эшенбахе (Eschenbach), 1-й полк — в Вольхаузене (Wohlhausen).