Исполнительным органом III Отделения был корпус жандармов. Главный начальник III Отделения был одновременно и шефом корпуса жандармов. Вся страна была разделена на несколько (пять, потом восемь) жандармских округов, возглавлявшихся генералами. Округ делился на «отделения», охватывавшие от одной до трех губерний. Во главе каждого отделения стоял жандармский штаб-офицер. Кроме этих учреждений, аппарат корпуса включал специальные жандармские воинские части. Местные органы вели надзор за государственными чиновниками, докладывали о настроениях различных сословий на подведомственных им территориях. Годовые отчеты III Отделения включали «нравственно-политические» обозрения, анализировавшие вопросы политического состояния империи и т. п. Для сбора информации III Отделение имело оплачиваемых и добровольных сотрудников, сообщавших о разговорах в салонах, офицерских собраниях, студенческих кружках, кабаках и других местах массового общения65.
В период «великих реформ», при Александре II, меняются функции отдельных экспедиций III Отделения. Но в целом оно оказалось плохо приспособлено к противодействию революционным народникам. Сказывались малая численность, нечеткость управления, отсутствие реального контроля. К августу 1880 года III Отделение насчитывало всего 72 чиновника. Но главное заключалось в другом. В своем проекте «Об устройстве высшей полиции» А. Х. Бенкендорф обещал, что результатом осуществления его предложений станет появление «бдительной полиции, охраняющей спокойствие общества и предупреждающей беспорядки и преступления». Через несколько десятков лет оказалось, что III Отделение породило страх, враждебность значительной части общества при одновременном неумении ответить на вызовы времени и ликвидировать или хотя бы резко ограничить оппозиционные политические силы66.
Из данных политического контроля, свидетельствующих о распространении революционной пропаганды и о все более широком участии в ней разночинных образованных слоев общества, власть делала глубоко ошибочный вывод, следствием которого стало стремление ограничить распространение образования в низших слоях населения. Испытывая огромную настороженность в отношении студентов, преподавательского и научного сообщества, власти использовали в первую очередь административные методы по принципу «держать и не пущать». Еще 7 июня 1862 года был принят именной Указ «О закрытии всех учрежденных при войсках воскресных школ и вообще всяких училищ для лиц, не принадлежащих военному ведомству, и о недопущении впредь никаких сборищ посторонних людей в зданиях, занимаемых войсками», поскольку «злоумышленные люди могут <…> в этих школах проводить вредные и ложные учения, что при том обнаружены уже некоторые преступные покушения увлечь и нижних чинов к нарушению долга службы и присяги»67. 18 апреля 1864 года начальник III Отделения и шеф Отдельного корпуса жандармов В. А. Долгоруков обратился к министру внутренних дел П. А. Валуеву с просьбой учредить полицейский надзор за библиотеками и читальнями68. Секретная инструкция для жандармских унтер-офицеров «по предупреждению и пресечению преступлений», изданная в 1897 году, требовала обращать особое внимание на народных учителей, фельдшеров, акушерок, приказчиков, студентов, гимназистов, семинаристов, книгонош и т. п.69
По предложению генерала М. Т. Лорис-Меликова, ставшего начальником Верховной распорядительной комиссии по охране государственного порядка и общественного спокойствия, 6 августа 1880 года вместо ликвидированных Верховной комиссии и III Отделения был создан Департамент полиции Министерства внутренних дел как руководящий орган общей и политической полиции. Департамент делился на ряд делопроизводств, каждое из которых имело свою сферу деятельности. Вопросами политической полиции ведало третье производство, а с 1898 года – Особый отдел. На местах политическим контролем ведали секретно-розыскные, или, как они стали называться позднее, охранные, отделения. Параллельно продолжал существовать Отдельный корпус жандармов как военно-исполнительный орган со своими местными органами (губернские жандармские управления, жандармские пограничные пункты, жандармские полицейские управления железных дорог). Охранные отделения имели свою агентуру наружного наблюдения (филеры) и агентуру в обследуемой среде (внутреннего наблюдения). Совместную работу Департамента полиции и Отдельного корпуса жандармов обеспечивал товарищ (заместитель) министра внутренних дел, бывший одновременно командиром Отдельного корпуса жандармов.