Однако даже эти малочисленные и слабовооруженные части смогли дать первый бой за город. Смоленск отнюдь не пал в руки Гудериана, как спелый плод. В журнале боевых действий немецкого 47-го корпуса об этих боях было написано следующее: «29-я пд (пехотная дивизия. – Прим. авт.) движется силами 71-го пп (пехотного полка. – Прим. авт.) на правом фланге с юга, силами 15-го пп по дороге Красный – Смоленск к окраинам Смоленска, на которые выходит вечером. 71-й пп начинает в 22.00 наступление к центру города, в то время как 15-й пп сражается в его юго-западной части. Уже после наступления темноты 71-й пп ведет в высшей степени ожесточенные бои, неся тяжелые потери, поскольку противник ведет огонь из окон, подвальных окон и т. п., в том числе и из противотанковых орудий. Вспыхивают рукопашные схватки с использованием холодного оружия». Последняя фраза про рукопашные бои попала даже в очередное донесение группы армий «Центр». 29-я моторизованная пехотная дивизия немцев действительно понесла в боях за Смоленск тяжелые потери. В период с 14 по 19 июля она была безусловным лидером по потерям во 2-й танковой группе. За этот период потери составили 185 человек убитыми, 795 ранеными и 8 пропавшими без вести, а всего – 988 человек.

К исходу 21 июля в руках Красной армии оставалась только северо-западная окраина города.

Действиями Красной армии в районе Смоленска руководил командующий 16-й армией генерал-лейтенант М. Ф. Лукин. В его распоряжении в это время были не закончившие сосредоточения и постепенно прибывавшие части 16-й армии. Кроме того, Лукин пытался объединить и организовать отходящие части, подразделения и просто группы бойцов и командиров из состава левого фланга 19-й и правого фланга 20-й армий. Но наспех сформированные отряды не были достаточно устойчивы и страдали слабым организационным объединением. Это затрудняло управление ими и создавало вынужденную разрозненность и малую эффективность действий этих импровизированных отрядов.

Также сильно сказалась на ходе боевых действий советских частей в районе Смоленска нехватка боеприпасов у артиллерии. Позднее М. Ф. Лукин вспоминал: «22 и 23 июля в Смоленске продолжались ожесточенные бои. Противник упорно оборонял каждый дом, на наши атакующие подразделения он обрушил массу огня из минометов и автоматов. Его танки помимо артогня извергали из огнеметов пламя длиною до 60 м, и все, что попадало под эту огневую струю, горело. Немецкая авиация днем беспрерывно бомбила наши части. Сильный бой продолжался за кладбище, которое 152-я стрелковая дивизия занимала дважды (ранее 129-я стрелковая дивизия также три раза овладевала им). Бои за кладбище, за каждое каменное здание носили напряженный характер и часто переходили в рукопашные схватки, которые почти всегда кончались успехом для наших войск. Натиск был настолько сильным, что фашисты не успевали уносить убитых и тяжелораненых, принадлежавших 29-й мотодивизии 47-го механизированного корпуса Гудериана». Смоленск был оставлен 28 июля, буквально через день после замыкания кольца окружения за спиной 16-й и 20-й армий генерал-лейтенантов М. Ф. Лукина и П. А. Курочкина.

Проведенное неделю спустя расследование показало, что «отход 73 сд (стрелковой дивизии. – Прим. авт.) с рубежа Верхн. Дубровка, Нов. Батени производился по указанию командира 69 ск и вопреки приказу командующего 20-й армией». 73-я стрелковая дивизия отходила на новые позиции по приказу командира корпуса. От противника удалось оторваться, и отход проходил достаточно организованно. Однако вследствие ошибки в управлении один из ее батальонов начал отход через боевые порядки соседней 152-й стрелковой дивизии. Правофланговые части 152-й дивизии дрогнули и, не зная обстановки, потянулись за отходившим батальоном. Вскоре командир дивизии Чернышев отправился скандалить в расположение соседа, жалуясь на отход и открывшийся в результате этого фланг его соединения. Далее процесс принял неуправляемый характер, что и привело к потере Смоленска. Для командира 69-го корпуса генерал-майора Е. А. Могилевчика это расследование, впрочем, никаких последствий не имело, поскольку он был ранен в ходе последующего прорыва из окружения и вернулся в строй только в 1942 г.