14 июня Василий снова выступил в поход. Сам он остановился в Боровске, а к Смоленску послал воевод боярина – князя Репню-Оболенского и окольничего Андрея Сабурова. Смоленский наместник Юрий Сологуб вышел с войском из города и контратаковал русских. Однако полки его были разбиты и бежали в крепость.

Вскоре под Смоленск прибыл и сам великий князь Василий. К городу были доставлены осадные орудия. Но литовцы храбро защищались.

8 июня 1514 г. Василий ІІІ в третий раз выступил к Смоленску. С ним шли братья Юрий и Семен; третий брат, Димитрий, стоял в Серпухове для защиты южных границ от крымцев; четвертый брат, Андрей, остался в Москве. 29 июля началась осада Смоленска.

Действиями пушек распоряжался пушкарь Стефан. Первым же выстрелом Стефану удалось попасть в пушку в крепостной башне. Литовская пушка разорвалась, и все, кто находился в башне, были убиты. Через несколько часов Стефан дал залп из пушек меньших калибров «ядрами мелкими окованными свинцом», то есть несколькими камнями средней величины, покрытыми свинцовой оболочкой. Таким образом, эти боеприпасы напоминали дальнюю картечь XVIII в. с той разницей, что тогда ядра были чугунные. Смоляне не ожидали от русских такой пакости, и у стен собралось много военных и гражданских лиц, пришедших посмотреть на войско москвичей. Согласно русской летописи, этот залп «еще больше народу побил; в городе была печаль большая, видели, что биться нечем, а передаться – боялись короля». Тем временем великий князь велел Стефану дать третий залп, вызвавший новые потери среди осажденных.

Тогда православный владыка Варсонофий вышел на мост и стал просить у великого князя перемирия до следующего дня. Но Василий не согласился и велел бить по городу из всех пушек со всех сторон. Варсонофий вернулся в город, собрал церковный причт, надел ризу, взял крест, иконы и вместе с наместником Сологубом, панами и простыми людьми снова вышел на мост и обратился к Василию: «Государь князь великий! Много крови христианской пролилось, земля пуста, твоя отчина. Не погуби города, но возьми его с тихостию». Тогда Василий подошел к владыке для благословения, а затем велел ему, Сологубу и панам идти к себе в шатры.

На следующий день, 30 марта, Василий ІІІ послал в Смоленск Даниила Щеню с товарищами, дьяков и подьячих с заданием переписать всех жителей и привести к присяге «быть за великим князем и добра ему хотеть, за короля не думать и добра ему не хотеть». К вечеру следующего дня все смоляне были переписаны и приведены к присяге. А 1 августа Василий ІІІ вместе с владыкой Варсонофием торжественно вступил в Смоленск, где был радостно встречен народом. После молебна и многолетия в соборной церкви владыка сказал великому князю: «Божиею милостию радуйся и здравствуй православный царь Василий, великий князь всея Руси, самодержец, на своей отчине, городе Смоленске на многие лета!»

Смоленским князьям, боярам и мещанам Василий объявил свое жалованье, уставную грамоту и назначил им наместником боярина князя Василия Васильевича Шуйского, а затем позвал всех обедать. После обеда все получили великокняжеские дары. Сологубу же и сыну его Василий сказал: «Хочешь мне служить, и я тебя жалую, а не хочешь, волен на все стороны». Сологуб выразил желание вернуться к своему королю и был отпущен. А в Польше его объявили изменником и отрубили голову. Всем остальным королевским служилым людям Василий ІІІ также предложил на выбор остаться у него на службе или возвратиться к Сигизмунду. Оставшиеся получили по два рубля и по сукну, те же, кто решил уехать к королю, получили по рублю. Многие смоляне уже давно хотели покинуть свой город, и тем, кто ехал в Москву, давали подъемные, те же, кто оставался, удерживали за собой свои вотчины и поместья.