Эти посты он занимал недолго — 26 июня 1953 был арестован по инициативе «группы товарищей из Политбюро». В тот же день был издан Указ Президиума Верховного Совета СССР «О преступных антигосударственных действиях Берии». Согласно пункту четыре этого документа: «Дело о преступных действиях Л. П. Берии передать на рассмотрение Верховного Суда СССР». Лаврентий Берия был расстрелян по приговору суда 23 декабря 1953 года.
Следом за Лаврентием Берией арестовали его жену и сына, а также беременную невестку с двумя внуками, наверное, как членов семьи врага народа. Жену Серго Берии — Марфу Пешкову — скоро отпустили на свободу. А вот сам Серго и вдова Лаврентия Берии полтора года провели в заключении. Позднее Серго вспоминал, что допрашивали его часто, порой и по ночам, спать не давали, предъявляли обвинения типа «реставрации капитализма и возрождения частной собственности», устроили имитацию расстрела, чтобы заставить мать, наблюдавшую этот «спектакль» сверху из окна — подписать что-то. Затем их отправили в ссылку на Урал. А в 1964 году ему разрешили переехать в Киев. Вот такие дела происходили при «либерале» Никите Хрущеве.
После ареста Лаврентия Берии новый министр внутренних дел Сергей Круглов 4 февраля 1954 года подал официальную записку в «инстанцию» (так называли ЦК КПСС) с предложением о выделении из МВД оперативно-чекистских управлений и создании на их базе «Комитета по делам государственной безопасности при Совете Министров СССР».
Этот документ 8 февраля 1954 года обсудили на Президиуме ЦК КПСС и полностью одобрили, за исключением одного — из названия убрали «по делам».
Комитет государственной безопасности при Совете Министров СССР был образован согласно Указу Президиума Верховного Совета СССР от 13 марта 1954 года. Именно эту дату можно считать официальной датой его рождения. Хотя на Лубянке свой профессиональный праздник чекисты отмечали и сейчас отмечают 20 декабря — день создания ВЧК.
Первым председателем КГБ был назначен Иван Серов. Он сделал стремительную карьеру при Иосифе Сталине, а при Никите Хрущеве активно участвовал в процедуре реабилитации жертв судебного произвола и к июню 1957 года уволил более 18 тысяч чекистов, якобы причастных к «чисткам» (в том числе сорок генералов).
Первая волна кадровой «чистки» завершилась в феврале 1956 года, когда Иван Серов «отчитался» перед ЦК КПСС об увольнении 16 тысяч сотрудников «как не внушавших политического доверия, злостных нарушителей социалистической законности, карьеристов, морально неустойчивых, а также малограмотных и отсталых работников».
Второй этап «очищения» закончился в июне 1957 года, когда из органов госбезопасности уволили еще 2000 сотрудников центрального аппарата «за нарушение советской законности, злоупотребление служебным положением и аморальные поступки». Из них 48 человек занимали должности начальников отделов и выше. В результате, как отмечалось в справке, подготовленной Иваном Серовым к июньскому (1957 года) пленуму ЦК: «…Заменены почти все руководящие работники главных управлений, управлений и отделов центрального аппарата. На эти должности более 60 человек направлены ЦК КПСС с руководящей партийной и советской работы».[7]
Еще 554 партийных и советских работника заняли освободившиеся руководящие посты в региональных подразделениях КГБ.
В результате кадровых сокращений штатная численность Комитета госбезопасности сократилась к 1957 году, по сравнению с 1954 годом, наполовину. При этом не учтена замена профессиональных чекистов на чиновников из советского и партийного аппарата.
В кадровой политике КГБ Иван Серов опирался как на старых чекистов, так и на новых партийных выдвиженцев. При нем были заменены практически все руководители подразделений центрального аппарата. Первыми зампредами КГБ при нем стали партработник Константин Лунев (после отставки шефа исполнял обязанности председателя КГБ, затем отправлен в почетную ссылку в Казахстан — Председателем КГБ при СМ Казахской СССР) и военный контрразведчик Петр Ивашутин (с 5 по 13 ноября 1961 года исполнял обязанности председателя КГБ, с марта 1963 по 1988 год — руководитель Главного разведывательного управления ГШ МО СССР (ГРУ)); зампредами — бывший руководитель управления кадров и шифровальных органов Иван Савченко, партаппаратчики Петр Григорьев (руководил Управлением кадров) и Василий Лукшин; разведку возглавляли разведчик и дипломат Александр Панюшкин и контрразведчик Александр Сахаровский; контрразведку — старый чекист Петр Федотов и более молодой (в 1956 году, когда он был назначен, ему исполнился 41 год) Олег Грибанов; борьбой с «антисоветскими элементами» руководил бывший зам Виктора Абакумова Евгений Питовранов.
Никто из них не был человеком Ивана Серова. Его бывшие сослуживцы по МВД на руководящие посты в КГБ не перешли. В отличие от многих своих предшественников и преемников, он не тащил за собой свою команду. Но это может также свидетельствовать и о том, что ее у него не было.
Структура центрального аппарата КГБ, сформировавшиеся при Иване Серове, поражала своей скромностью (по сравнению с НКВД марта 1942 года, когда функционировало более 65 управлений и приравненных к ним отделов).
В 1956 году центральный аппарат КГБ имел такую структуру:
Первое Главное управление (разведка), Второе Главное управление (контрразведка), Третье Главное управление (военная контрразведка), Четвертое управление (антисоветское подполье, националистические формирования и враждебные элементы),
Пятое управление (контрразведка на особо важных государственных объектах),
Шестое управление (контрразведка на транспорте), Седьмое управление (наружное наблюдение), Восьмое Главное управление (криптография), Девятое управление (охрана руководителей партии и правительства),
Десятое управление (Управление коменданта Московского Кремля),
Управление кадров, Следственное управление,
Первый спецотдел (контрразведка в атомной промышленности),
Второй спецотдел (применение оперативной техники), Третий спецотдел (документов), Четвертый спецотдел (радиоконтрразведка), Пятый спецотдел (изготовление оперативной техники), Отдел «С» (правительственная связь), Учетно-архивный отдел (УАО), Тюремный отдел, Хозяйственное управление, Финансово-плановый отдел, Бухгалтерия,
Мобилизационный отдел,
Управление учебных заведений,
Секретариат,
Инспекция.
В подчинение у трех управлений находились региональные подразделения. Схематично это выглядело так:
Второе Главное управление КГБ СССР — КГБ при СМ союзных и автономных республик — У КГБ краев и областей — аппараты уполномоченных УКГБ городов и районов.
Третье главное управление — Управление особых отделов родов войск и Особые отделы округов и флотов — Особые отделы армий и флотов — Особые отделы и отделения дивизий и бригад.
Шестое управление — Отделы КГБ на ж.д. и водных бассейнах — Аппараты уполномоченных КГБ на ж.д. станциях и в портах.