В Особых отделах ВЧК находилась служба военной цензуры. Инструкция содержала подробное изложение методов перлюстрации и требовала соблюдения строжайшей конспирации. 13 августа 1921 года военная цензура была возложена на Информационный отдел. На Секретный отдел Управления возлагались выявление и борьба с антисоветской деятельностью монархистов, кадетов, меньшевиков, эсеров, оппозиционно настроенного духовенства. Отдел включал работу 9 отделений по различным направлениям. С конца 1920 года, согласно приказу ВЧК, в Секретном отделе постановке на постоянный учет подлежали все выявленные члены небольшевистских партий и других организаций.
Оперативный отдел управления осуществлял ведение наружной разведки и установки. В отдел входили секретариат, оперативное отделение, техническое отделение, активная часть Оперода, отделение обработки материалов, бюро обработки, бюро печати, регистрационно-статистическое отделение, справочное бюро, бюро розыска, бюро статистики, архив. В управление был включен и Иностранный отдел. В течение 1921 года легальные резидентуры были созданы в Англии, Франции и Германии, одновременно осуществлялось развертывание нелегальной разведки. Во внешнюю разведку направлялись опытные члены партии, а основные линии разведывательной работы определялись ЦК РКП(б). Параллельно внешнюю разведку осуществляло Разведывательное управление Штаба Красной Армии. Для координации деятельности двух независимых разведок предусматривался ввод в состав Коллегии ВЧК начальника Разведуправления.
28 марта 1921 года в Секретно-оперативное управление вошел Информационный отдел. На него возлагались задачи организации и обеспечения партийного и советского руководства информацией о политическом и экономическом положении страны и отдельных регионов. Позднее в инструкции для местных органов ВЧК стали указываться источники информации: доклады осведомителей в учреждениях и на предприятиях, уполномоченных ВЧК на местах, сведения о различных происшествиях, следственный и агентурный материал, периодическая печать, народная молва (слухи).
25 января 1921 года было создано Экономическое управление, а на местах – отделы по борьбе с саботажем, спекуляцией и преступлениями по должности. Экономическое управление насчитывало по штату около 400 человек и состояло из Отдела надзора и публичного обвинения, статистико-экономического отдела, 15 следователей, которые курировали деятельность наркоматов и другие центральные учреждения. 28 марта 1921 года при ВЧК был создан Специальный отдел, на который были возложены функции координации и контроля ведомственных шифровальных служб и централизованной организации в государственных учреждениях секретного делопроизводства. 5 мая 1921 года правительство приняло постановление об обязательном исполнении государственными учреждениями распоряжений и циркуляров Спецотдела по вопросам шифровального дела. В 1920 году в отделе были сформированы отделения радиоперехвата, изготовления документов, химическая лаборатория. В августе 1921 года была создана и начала работать Следственная часть Президиума ВЧК. Ей предоставлялось право возбуждения и проведения следствия по преступлениям, совершенными сотрудниками ВЧК, выдачи санкции на высшую меру наказания и конфискацию имущества, надзора за ведением следствия в органах ЧК и содержанием заключенных.
По постановлению Совета труда и обороны от 19 января 1921 года была проведена централизация вооруженных частей и отрядов, состоящих при ВЧК. Они сводились в единые войска ВЧК, на которые возлагалась непосредственная борьба с открытыми антисоветскими выступлениями и бандитизмом. Организационное строительство и руководство войсками осуществляло учрежденное 1 апреля 1921 года Управление войск ВЧК, в которое был включен и Отдел пограничной охраны. К концу 1921 года ВЧК состояла из 7 управлений и отделов. Сложной оказалась организация кадровой работы, так как формировать подразделения ВЧК приходилось «с нуля». Первые трехнедельные курсы по подготовке заведующих отделами, следователей, разведчиков и других специалистов были рассчитаны на 100–120 слушателей. Они открылись в Москве в августе 1918 года. В сентябре 1918 года срок обучения был продлен до двух месяцев, а число слушателей увеличено до 200 человек. Особенностью кадрового состава органов ЧК была многонациональность: русские, украинцы, белорусы, поляки, немцы, финны, чехи, венгры и евреи. К 1919 году ситуация в сфере государственной безопасности несколько стабилизировалась, это вызвало дискуссию о необходимости ограничения прав чрезвычайных комиссий и усиления контроля за их деятельностью.