Общий вид Спасо-Яковлевского монастыря
В 1409 г. деревянные постройки монастыря были сожжены татарами, в 1608 г. – поляками. В 1654 г. обедневший после разорения монастырь был приписан к Ростовскому Архиерейскому дому.
В 1686 г. митрополит Иона Сысоевич выстроил и освятил в монастыре на месте древней деревянной Зачатьевской церкви первое каменное здание – Троицкий собор. Он представлял собой пятиглавый храм с тремя алтарными апсидами, без богатого декоративного убранства. При нём была построена шатровая колокольня «о шести колоколах». В 1689 г. собор был расписан ярославскими мастерами, а над гробницей основателя св. епископа Иакова возведена каменная сень.
В 1702–1709 гг. монастырь находился под особым попечением ростовского митрополита Димитрия Ростовского, который впоследствии был погребён в юго-западном углу Троицкого собора. В 1725 г. по повелению ростовского епископа Георгия (Дашкова) к Троицкому собору был пристроен северный Зачатьевский придел. В 1754 г. по указу митрополита Арсения (Мацеевича) собор был переосвящен в Зачатьевский, а его придел – в честь св. Иакова Ростовского. В 1752 г. в соборе производили починку церковного пола, при которой 21 сентября были обретены мощи святителя Димитрия Ростовского.
В 1758 г. по приказу императрицы Елизаветы Петровны была сделана серебряная рака для мощей св. Димитрия Ростовского с эпитафией, сочинённой М. В. Ломоносовым. 25 мая 1763 г. состоялся первый крестный ход от Успенского собора Ростовского Архиерейского дома к Спасо-Яковлевскому монастырю, проводившийся с тех пор ежегодно (до революции).
Панорама Спасо-Яковлевского димитриевого монастыря
К середине XVIII в. в монастыре, согласно сохранившимся описям, была деревянная рубленая ограда с воротами в каждой стене. Главные из ворот, Святые, украшенные росписью, находились с восточной стороны. Возле западной стены располагались деревянные настоятельские покои. С южной стороны находились каменные братские кельи, в северо-восточном углу – несколько деревянных келейных корпусов. С восточной стороны располагались деревянные хозяйственные постройки: амбар, конюшня, сарай, два каменных погреба; около Святых ворот стояла хлебная палата с кухней; в юго-восточном углу – каменная поварня и пивоварня.
С 1764 до 1888 гг., согласно манифесту Екатерины Второй, монастырь числился ставропигиальным. В 1765 г. к нему были приписаны строения стоявшего рядом упразднённого Спасо-Песоцкого монастыря, включая Спасо-Преображенский собор XVII в. И в 1765–1836 гг. обитель официально именуется Спасо-Иаковлевским Зачатьевским монастырём.
В 1760-е гг. в Зачатьевский собор был поставлен деревянный резной иконостас, выполненный резчиками С. Шоломотовым и С. Бочаровым. Иконы для этого иконостаса в 1780 г. написал харьковский иконописец В. Ведерский.
Во второй половине XVIII в., между 1776 и 1786 гг., деревянная ограда монастыря была заменена каменной. На углах и над воротами появились башни с легкими ажурными силуэтами, а над восточными воротами – высокая трехъярусная колокольня. Тогда же в монастырском дворе были построены двухэтажные братские кельи и настоятельский корпус. В 1786–1795 гг. их дополнили новым корпусом келий.
В конце XVIII в. в Спасо-Яковлевский монастырь по приглашению митрополита Арсения (Мацеевича), приезжают иконописцы для поновления старинных и написания новых икон. С этих пор в обители расцветает искусство финифтяной иконы, которые стали покупать на память о посещении монастыря богомольцы.
В 1794–1802 гг. в монастыре на средства графа Н. П. Шереметева, бывшего крупнейшим благотворителем монастыря, по проекту московского архитектора Назарова и крепостных зодчих Душкина и Миронова стиле классицизма был возведен Димитриевский собор. В память о Шереметеве Димитриевский собор стали часто называть Шереметевским.