19 декабря 1918 года был сформирован Особый отдел ВЧК при Совете Народных Комиссаров.
В 1920-е – 1930-е годы произошло укрепление органов военной контрразведки. В 1934 году Особый отдел вошел в состав Главного управления государственной безопасности (ГУГБ) НКВД СССР в качестве 5-го отдела (с 1936 г.), а в 1938 году, после упразднения ГУГБ, на базе 5-го отдела было создано 2-е Управление особых отделов НКВД СССР. Однако в 1938 году, по инициативе Лаврентия Берия, Главное управление государственной безопасности было воссоздано. В его составе возродился и 4-й Особый отдел ГУГБ, отвечающий за военную контрразведку.
В 1941 году было воссоздано Управление особых отделов, в состав которого вошло 3-е Управление Народного комиссариата обороны СССР и Особый отдел НКВД СССР. 19 апреля 1943 года постановлением Государственного комитета обороны СССР было создано легендарное Главное управление контрразведки «СМЕРШ» Народного комиссариата обороны СССР, в годы войны сыгравшее главную роль в выявлении немецких шпионов и предателей, полицаев, карателей и их пособников из числа советских граждан.
В мае 1946 года органы военной контрразведки были преобразованы в особые отделы и переданы в Министерство государственной безопасности СССР (с 1954 года – Комитет государственной безопасности СССР). В период холодной войны главными противниками военной контрразведки стали спецслужбы стран НАТО.