Тайная канцелярия была образована в феврале 1718 г. в Москве как временный следственный орган по делу царевича Алексея, однако после переезда в Петербург, где она разместилась в Петропавловской крепости, 20 марта этого же года была преобразована в постоянное ведомство. Поскольку следствие по делу царского сына было поручено П.А. Толстому, выманившему царевича из-за границы, костяк сотрудников нового учреждения составил небольшой штат помощников этого дипломата. Однако круг подозреваемых по делу царевича оказался достаточно широк, поэтому Петр укрепил руководство Тайной канцелярии своими доверенными лицами. Помимо Г.Г. Скорнякова-Писарева, ведшего следствие по делу матери Алексея, в него вошли гвардии майор А.И. Ушаков, приданный в помощь Толстому, и находившийся в Петербурге генерал И.И. Бутурлин, принявший в марте 1718 г. присланные из Москвы все бумаги по делу царевича. Эти четверо и составили руководство нового органа государственной безопасности.

В 1718–1720 гг. руководители Тайной канцелярии назывались «министрами», в начале 1720-х гг. – «судьями», иногда их именовали «инквизиторами». Формально все четверо «министров» были равны, однако главным среди них, безусловно, являлся П.А. Толстой. Помогавший им штат был весьма немногочислен: секретарь, 6 канцелярских служащих и необходимое количество заплечных дел мастеров. Тайная канцелярия стала первым в отечественной истории узкоспециализированным органом, целиком сосредоточившимся на вопросах политического сыска и ни на какие другие посторонние дела не отвлекавшимся.

С марта по август 1718 г. Тайная канцелярия занимается исключительно делом царевича Алексея, и на протяжении этого периода ее фактическим руководителем является сам Петр. Под его началом следствие было проведено достаточно быстро, широко и досконально. В беседе с Толстым царь сразу очертил круг подозреваемых: «Когда б не монахиня (насильно постриженная его первая жена Евдокия Лопухина. — Прим. авт.), и не монах (епископ Ростовский Досифей. — Прим. авт.), и не Кикин, Алексей не дерзнул бы на такое неслыханное зло. Ой, бородачи! многому злу корень старцы и попы; отец мой имел дело с одним бородачом (патриархом Никоном. — Прим. авт.), а я с тысячами». Действительно, через своего личного духовника Якова Игнатьева, близкого друга епископа Досифея, царевич поддерживал связь с заточенной в Суздальский монастырь матерью. Следствие установило, что кружок приближенных Алексея в сношениях между собой пользовался конспиративными кличками и шифрованной перепиской. Поскольку все эти люди никакого реального влияния не имели и тайнопись была для них наполовину игрой, то гораздо более опасной была деятельность А.В. Кикина – бывшего сподвижника Петра, пойманного царем на воровстве и после наказания примкнувшего к кружку царевича, став главным советчиком наследника. Именно этот человек был инициатором и организатором бегства Алексея в Австрию, и от него тянулись более чем подозрительные нити к лицам, обладавшим действительной военной и административной властью. При аресте у Кикина были найдены «цифирные азбуки» для переписки с князем В.В. Долгоруким, князем Г.Ф. Долгоруким, князем Я.Ф. Долгоруким, генерал-адмиралом Ф.М. Апраксиным, фельдмаршалом Б.П. Шереметевым, дипломатом С.В. Рагузинским, А. Волковым и А. Веселовским.

Для получения подробных признаний царь не остановился перед пыткой сына. Так, например, с 19 по 24 июня 1718 г. Алексея шесть раз подвергали пыткам в каземате Петропавловской крепости, причем в первый день пытали дважды – с полудня до часа и с 6 до 9 вечера. Под пыткой у него удалось вырвать признание, что ради захвата власти царевич готов был даже согласиться на австрийскую интервенцию в пределы Отечества.