Однако начатые царем крутые реформы породили во всех слоях русского общества, от самых высших до низших, массу недовольных. Это постоянное сопротивление, принимавшее то открытую, то скрытую форму, непосредственно угрожало власти, а подчас и самой жизни Петра I. После Азовских походов (1695–1696) возникает второй заговор против царя. Во главе его стоял думный дворянин И. Цыклер, посланный Петром руководить постройкой Таганрога и считавший это назначение незаслуженной опалой. К нему примкнул сокольничий А. Соковнин, возмущенный отправкой за границу двоих своих сыновей для учебы, и стольник Ф. Пушкин, недовольный назначением своего отца воеводой в Азов. Заговорщики установили контакт с некоторыми стрелецкими начальниками и донскими казаками, но 23 февраля 1697 г. заговор был раскрыт. Петр спешил за границу, куда отправлялся в составе Великого посольства, и поэтому следствие было проведено очень быстро – уже 2 марта Боярская дума приговорила главных заговорщиков к смертной казни. Однако на следующий год в Европе Петра настигает весть о вспыхнувшем Стрелецком мятеже. Причиной стало то, что стрельцов после тяжелого Азовского похода не отправили на отдых к семьям в Москву, на что они рассчитывали, а погнали к литовской границе. По пути в июне 1698 г. 2200 стрельцов взбунтовались и решили идти на столицу, чтобы свергнуть ненавистную власть и возвести на престол царевну Софью. Оставленные Петром управлять страной в его отсутствие бояре спешно собрали верное царю восьмитысячное войско, которое под руководством А.С. Шеина встретило мятежников 17 июня у Воскресенского монастыря, в 50 верстах от Москвы. Переговоры ни к чему не привели, и при поддержке артиллерии правительственные войска разбили восставших. Шеин по горячим следам провел розыск и арестовал 254 наиболее активных участника мятежа, из которых 130 были немедленно казнены. Однако спешно вернувшийся из-за границы Петр остался недоволен результатами следствия. Подозревая более глубокие корни заговора и участие в нем ненавистных Милославских, царь распорядился возобновить следствие. 17 сентября 1698 г. начался знаменитый стрелецкий розыск, поразивший современников своей исключительной жестокостью. После допросов и изощренных пыток, в проведении которых активное участие принимал сам царь со своим ближайшим окружением, 1182 мятежника были казнены, а стрелецкие полки расформированы.

Кровавая расправа над стрельцами не могла сдержать протест народа против гнета государства, еще более усилившегося с началом Северной войны. Не выдержав издевательств властей, в 1705 г. восстали жители Астрахани, перебившие русских и иноземных чиновников и офицеров, находившихся в городе. Астрахань семь месяцев находилась в руках восставших; оттуда бунт перекинулся на другие волжские и прикаспийские города. 3 марта 1706 г. Астрахань была взята правительственными войсками, после чего начались массовые аресты, допросы и пытки. По подсчетам исследователей, 365 участников астраханского восстания погибли во время пыток или были казнены. Невыносимые условия труда и жизни систематически приводили к более мелким восстаниям: в 1698 г. – на Воронежских верфях, в 1705–1710 и 1715 гг. – на Олонецких заводах в Карелии, в 1720-х гг. – на московских мануфактурах, липецких и кузьминских заводах. В 1703 г. восстали крестьяне Предуралья и Поволжья, с 1705 по 1711 г. длился мятеж башкир. Но самым опасным оказалось Булавинское восстание, охватившее в 1707–1709 гг. обширные территории на юге России. Полуторогодовая борьба с правительственными войсками велась с переменным успехом, но в момент наивысшего подъема Булавинский мятеж охватывал территорию от Днепра до Волги. Силы повстанцев были столь значительны, что в условиях войны со Швецией Петр I был вынужден бросить против них 32-тысячную армию. Лишь после того, как изменники из казачьей старшины вероломно убили Булавина, начатое им восстание было потоплено в крови. Понятно, что в этих исключительно напряженных условиях царю был жизненно необходим эффективный орган политического сыска, который бы пресекал готовящиеся выступления против государственной власти и вел следствие по уже произошедшим мятежам. Этим органом стал Преображенский приказ.