Во время отлучки с острова Германа Савватий, почувствовав приближение смерти, переехал на матерую землю, где принял причащение и, «совлекшись бренного тела», скончался. Скоро вслед за тем Преподобный Зосима, третий и главнейший из соловецких подвижников, будучи еще юным, раздал свое имение нищим и, проведав от бывшего в то время в Сумах Германа о местоположении Соловок, способствовавшем уединению, достиг с Германом вдвоем, в 1436 году, острова и соорудил первую келью в двух верстах от нынешнего монастыря; в полуверсте от него поселился Герман, и только позже и уже вместе явились они основателями первой церкви монастырской на том именно месте, где обитель стоит.

Когда обитель возникла, то Преподобный Зосима послал в Великий Новгород одного из братии за антиминсом и получил его. Отсюда завязались первые связи монастыря с древним Новгородом, и усердие богатых новгородцев не замедлило жертвовать монастырю участки земли с рыбными ловлями. При третьем настоятеле, Ионе, исходатайствована была от правителей Великого Новгорода, ото всех пяти концов его, грамота на вечное владение островами Соловецкими; бесценный документ этот, писанный полууставом и снабженный восемью вислыми свинцовыми печатями, хранится в монастырской ризнице. На документе, как это водилось, нет ни года, ни месяца, ни числа, но он совершенно свеж и нерушим на вид.

Только в 1452 году посвящен был в игумены Преподобный Зосима; для этого ездил он сам опять-таки в Новгород; в 1465 году, в тринадцатый год настоятельства, перенес он с берега нетленные мощи Преподобного Германа. Новгородская вольница, не раз наносившая ущербы обители, вынудила Зосиму еще раз поехать в Новгород. Все решительно были милостивы к нему, кроме самой Марфы Борецкой. Она велела отогнать его от дома; «затворятся двери дома этого и пуст будет двор его», ответил Зосима. Позванный обратно раскаявшеюся в своей поспешности Марфой, Преподобный был угощен на богатом пиру. Молча сидел он и видит страшное видение: знатные посадники – Борецкий, Селунев, Арзубьев и другие трое – сидели без голов. По окончании пира Марфа вручила Зосиме вкладную крепость на владение участком земли на Корельском берегу. Представшее Преподобному видение и предсказание его о запустении двора Марфы Борецкой скоро исполнились: Иоанн III, взяв Новгород, сослал Марфу, а шестерых названных бояр казнил. Дарственная запись на Корельское побережье тоже хранится в монастыре. Скончался Зосима в 1478 году. Соляные варницы обители заведены им.

Особенно покровительствовал обители Иоанн Грозный во время игуменства Св. Филиппа, впоследствии знаменитого митрополита Московского. Василий Иоаннович пожаловал монастырю несудимую грамоту. Михаил Федорович дал ему право по всем исковым делам обращаться прямо в приказ большего дворца и освободил все монастырские подворья по всей русской земле от постоя и повинностей. В 1765 году монастырь сделан ставропигиальным и состоит в непосредственном ведении Св. Синода, а не местного епархиального начальства. В 1865 году кончилось единоличное управление настоятеля и учрежден «собор» из шести человек. Настоятельствует в настоящее время архимандрит Мелетий; счетом это пятьдесят восьмое настоятельство.

Петр I был в монастыре дважды. В 1694 году, после опасного шторма у Унских Рогов, посетив Пертоминский монастырь, прибыл он 7 июня и оставался три дня; в 1702 году прибыл он 10 августа на тринадцати кораблях с царевичем Алексием и остановился между Анзерским и Муксаломским островами. 11 августа читал сам «Апостол» и обедал за братским столом, 12-го ездил по острову на коне, 15-го пел на клиросе и того же числа с флотом отправился к Нюхотской волости, чтоб идти на Повенец.