Подобной безграничной властью могущественный временщик пользовался все восемь лет своего пребывания во главе государственной безопасности.

Активно занимаясь внутренней политикой Российской империи, Шувалов проводит реорганизацию и собственного ведомства. Прежде всего он расширяет 5-й секретариат Третьего отделения, сотрудники которого должны были реагировать на общественные события. Вслед за этим добивается строгой централизации полиции и Отдельного корпуса жандармов. Для обеспечения полного контроля положения дел на местах страна была разбита на жандармские округа и была создана сеть из 31 наблюдательного пункта. В секретной инструкции от декабря 1866 г. шеф жандармов приказывает подчиненным «доводить до сведения начальства о всяком покушении взволновать умы изустными проповедями с помощью речей», не передоверять политические дела судебному разбирательству, если существует возможность провести расследование собственными силами. Наконец, руководитель Третьего отделения обращает внимание на организацию наружного наблюдения и секретной агентурной сети. В Петербурге и Москве устанавливалась слежка за всеми подозрительными лицами при помощи сотрудников, которые негласно были приняты на службу еще при прежнем руководителе государственной безопасности; значительные надежды Шувалов возлагал на добровольных осведомителей из числа верноподданных граждан. В сентябре 1867 г. император узаконил предложения начальника государственной безопасности. Жандармерия объявлялась национальной полицией, которая обязана была действовать в соответствии с Уголовным кодексом и принципами проводившейся судебной реформы. Хотя по новому закону жандармы должны были только наблюдать за обществом, а не наводить в нем порядок, Шувалов предусмотрительно обговорил лазейку из этого общего правила, благодаря которой его ведомство имело право заниматься преступниками, когда местной полиции «не оказывалось на месте» или когда последняя самостоятельно «не могла справиться» с беспорядками и т.п.

Реорганизация была проведена Шуваловым в 1870-е г. и в Третьем отделении. Ее главная суть состояла в ужесточении карательных мер против массовых крестьянских выступлений и надзора за общественным и революционным движением. Вынужденное приспосабливаться к новым правовым условиям, сложившимся в ходе судебной реформы, и увеличению числа политических процессов в судах, Третье отделение с 1871 г. обзаводится собственной юрисконсультативной частью. Помимо общего архива, при нем создается Секретный архив, где сосредоточиваются дела по политическим преступлениям и данные перлюстрации корреспонденции. Систематически обновляются картотека, носившая название «Алфавит лиц, политически неблагонадежных», и альбомы с их фотографиями. Поскольку политический сыск плохо вписывался в новые правовые условия, по инициативе шефа жандармов Александр II 19 мая 1871 г. издал закон, значительно расширивший полномочия этого ведомства. Согласно ему, Отдельный Корпус жандармов официально наделялся «полицейскими» функциями, а его сотрудники получили право задерживать как «политических», так и «гражданских» предполагаемых преступников. При рассмотрении политических преступлений новый закон предписывал жандармам в обязательном порядке проводить предварительное дознание.

Наиболее крупным делом, которым пришлось заниматься Шувалову в бытность его начальником Третьего отделения, была организация «процесса нечаевцев», названного так по имени С.Г. Нечаева, автора знаменитого «Катехизиса революционера». Появившись в Москве в сентябре 1869 г., Нечаев представился местной демократически настроенной молодежи как доверенный русского отдела «Всемирного революционного союза» (никогда не существовавшего в реальности) и, действуя от его имени, создал тайное общество «Народная расправа», в которое завербовал около 80 человек. Целью общества, якобы имевшего свои отделения повсеместно, была «народная мужицкая революция», которую глава «Народной расправы» наметил на 19 февраля 1870 г. Столкнувшись с тем, что студент И.И. Иванов, вступивший в тайное общество, отказался верить его россказням о «Всемирном революционном союзе» и пытался публично поставить их под сомнение, Нечаев обвинил его в предательстве и 21 ноября 1869 г. организовал его убийство, в которое втянул еще четверых членов «Народной расправы».