Раскаявшись, хотя и поздно, в своем решении и откупившись от франков золотом и территориальными уступками, Витигис собрал для освобождения Рима армию численностью 150 тыс. человек. Для обороны города Велизарий едва набрал 10 тыс. человек. Однако, использовав предоставленную ему до начала осады трехмесячную передышку, он усилил оборонительные сооружения города и накопил большие запасы продовольствия. Кроме того, он применял активную оборону, совершал систематические, хорошо организованные вылазки. При проведении вылазок Велизарий использовал конницу, вооруженную луками, которая наносила удары по коннице противника, оставаясь вне досягаемости готских всадников, вооруженных пиками и иногда бросавшихся в безрассудные атаки. Хотя немногочисленные защитники города испытывали огромное напряжение, однако силы осаждавших войск таяли еще быстрее, особенно из-за болезней. Чтобы ослабить осаду, Велизарий пошел на риск. Он выделил из своих незначительных сил два отряда, поставив перед ними задачу внезапным ударом захватить города Тиволи (см. рис. 2) и Террачина, контролировавшие дороги, по которым осаждавшие войска получали продовольствие, а когда из Византии прибыли для Велизария подкрепления, он стал проводить подвижными отрядами более глубокие рейды вплоть до адриатического побережья и вдоль него в сторону основной базы остготов – Равенны. Наконец, через год после начала осады, остготы отказались от попытки захватить город и отступили на север, причем их отступление было ускорено вестью о том, что византийский отряд, совершив рейд, захватил Аримини, расположенный вблизи Равенны. Когда арьергард остготской армии сгрудился на Мальвианском мосту, Велизарий нанес удар, причинив отряду большие потери.
В то время как Витигис отступал на северо-восток, в направлении Равенны, Велизарий направил по морю на север часть сил, которые двигались вдоль западного побережья с задачей захватить Павию и Милан (см. рис. 6). Сам же Велизарий с отрядом всего лишь в 3000 человек направился к восточному побережью, где соединился с только что высадившимся подкреплением численностью 7000 человек, находившимся под командованием Нарсеса. Отсюда он пошел форсированным маршем на помощь своему отряду в Аримини, окруженному войсками Витигиса. Замаскировав себя от наблюдения со стороны крепости Осимо, где остготы оставили отряд численностью 25 тыс. человек, Велизарий незаметно обошел ее и двинулся к Аримини двумя колоннами; кроме того, один отряд перебрасывался морем. Это наступление с трех направлений преследовало цель создать у остготов преувеличенное представление о его силах. Для усиления этого впечатления по ночам в лагере зажигалась длинная цепь огней. Эта хитрость увенчалась успехом, и одно только имя Велизария вызывало страх у остготов. В итоге остготская армия, имевшая значительное численное превосходство, бежала в панике при приближении Велизария.
После этого Велизарий, не прекращая наблюдения за действиями Витигиса в Равенне, решил обезопасить свои коммуникации с Римом путем захвата крепостей, которые он обошел при быстром продвижении вперед. При малой численности войск эта задача была не из легких, однако его метод состоял в том, чтобы наиболее важные крепости сперва изолировать, а затем осадить. Одновременно в качестве заслона выбрасывались на значительное удаление подвижные отряды, которым ставилась задача не допустить подхода к осаждаемой крепости свежих сил противника. Решение этой задачи потребовало значительного времени. Оно затянулось из-за того, что некоторые полководцы Велизария, имевшие защитников при дворе, прикрывавших их неповиновение Велизарию, были склонны искать и захватывать более богатые объекты противника. Тем временем Витигис направил своих послов к франкам и персам с соблазнительным предложением объединиться для согласованного нападения на Византийскую империю с двух сторон, пока ее войска рассредоточены на таком большом пространстве, с тем чтобы положить конец дальнейшей византийской экспансии. Король франков ответил согласием и перешел Альпы с большой армией.