Третье отделение разместилось на углу Гороховой улицы и набережной реки Мойки, в 1838 году оно переехало в дом 16 на набережной реки Фонтанки, где у Цепного моста находилось до 1917 года.
Третье отделение было гражданской организацией со штатом от шестнадцати до сорока служащих. Его аппарат состоял из общего архива, двух секретных архивов, типографии и пяти экспедиций. Первая экспедиция ведала всеми политическими делами, наблюдением и надзором за общественными и революционными организациями и деятелями. Она проводила дознания по политическим делам, составляла для императора ежегодные «Отчеты о действиях» – обзоры общественного мнения и политической жизни страны, вела дела, связанные с оскорблением царя и императорской фамилии. Бенкендорф писал, что общественное мнение также важно для власти, как топографическая карта для полководца.
Вторая экспедиция вела надзор за религиозными сектами, раскольниками, фальшивомонетчиками, занималась должностными преступлениями, делами об убийствах, прошениями, жалобами, собирала сведения об изобретениях, заведовала штатами и кадрами Отделения, тюрьмами – Петропавловской и Шлиссельбургской крепостями.
Третья экспедиция вела наблюдение за проживавшими в России иностранцами, собирала сведения о политическом положении в стране, революционных партиях и организациях зарубежных государств.
Четвертая экспедиция собирала сведения о крестьянском движении, о мероприятиях правительства по крестьянским проблемам, о всех происшествиях в стране, о видах на урожай.
Пятая экспедиция ведала цензурой и наблюдала за прессой. При необходимости Отделение создавало специальные комиссии и комитеты. Управляющий Отделением с тремя самыми доверенными сотрудниками непосредственно встречался с тайной агентурой, читал многочисленные доносы, открывал и закрывал по своему усмотрению дела, разбирался со шпионами-добровольцами, которых было множество. Уже тогда в политическом сыске появилась тенденция фальсифицировать дела или вообще высасывать их из пальца. Если в итоге Отделение не могло доказать обвинение, оно старалось обвинить подозреваемого в сумасшествии. В 1828 году Бенкендорф докладывал царю: «За три года своего существования надзор отмечал на своих карточках всех лиц, в том или ином отношении выдвигавшихся из толпы. Так называемые либералы, приверженцы и апостолы русской конституции в большинстве случаев занесены в списки надзора. За из действиями, суждениями и связями установлено тщательное наблюдение»!. Под контроль бралось все – дворянские балы, дружеские собрания, пирушки, карточные вечеринки, семейная жизнь подданных. Третье Отделение и Корпус жандармов возглавляли А.Х.Бенкендорф (1826–1844), А.Ф.Орлов (1844–1856), В.А.Долгоруков (1856–1866), П.А.Шувалов (1866–1874), А.Л.Потапов (1874–1877), Н.В.Мезенцев (1877–1878), А.Р.Дрентельн (1878–1880).
Третье отделение с самого начала конкурировало с министерством полиции, с министерством внутренних дел. Первый управляющий Третьим отделением М.Фок докладывал главнокомандующему политическим сыском А.Бенкендорфу: «Городская полиция собирается развернуть все находящиеся в ее распоряжении средства, чтобы первой узнать все, что делается. Полиция отдала приказание следить за моими действиями и за действиями органов надзора. Переодетые полицейские чиновники наблюдают за тем, кто приходит ко мне домой». Третье отделение и МВД с 1826 года втыкало друг другу палки в колеса. Николай I создал службу своей личной охраны. Рота дворцовых гренадеров, созданная в октябре 1827 года, подчинялась не командиру гвардии, а министру императорского двора. В роте было сто двадцать специально отобранных солдат-орденоносцев и три выслужившихся из рядовых офицера. Рота несла караульную службу во дворцах, где находился Николай I. Все гренадеры и офицеры роты получали двойные оклады.