27 августа в 11 часов Трибуц отдал приказ об отходе войск и посадке их на суда. Отход прикрывался береговой артиллерией и заградительным огнем кораблей. В первую очередь суда заполнялись ранеными, служащими учреждений флота и отдельными подразделениями; одновременно грузили боевую технику и наиболее ценные материальные средства. На крейсере «Киров» разместили золотой запас, Военный совет флота и тех членов правительства и ЦК ВКП(б) Советской Эстонии, которые не перебежали к немцам. Противник вел интенсивный огонь по городу и порту, его авиация небольшими группами, по 5–9 самолетов, на протяжении всего светлого времени наносила бомбовые удары по транспортам и кораблям. В 18 часов подрывные команды приступили к уничтожению ценных объектов и материальных средств. В Русско-Балтийской гавани и у маяка Пакри паровозы и вагоны (более тысячи) по колее скатывались в море. В Купеческой гавани сначала взрывали вагоны с боеприпасами, а затем арсенал. В Минной гавани подняли на воздух нефтехранилище. В порту еще оставалось немало плавсредств, часть из которых уничтожил противник, а остальные были затоплены командами на входах в гавани.

Посадка на суда основных сил 10-го корпуса началась около 22 часов и продолжалась до наступления рассвета. Для обеспечения их отхода артиллерия флота и корпуса в течение двух часов вела массированный неподвижный заградительный огонь.

Всего на борт было принято свыше 20 тысяч военнослужащих и вольнонаемных, около 7,5 тысячи гражданских лиц. С помощью буксиров суда, набитые людьми и техникой, выводились в район сбора и формирования конвоев. После полуночи на причалах Беккеровской гавани осталось около 4000 бойцов и командиров, за ними так и не пришли, при том, что четыре транспорта ушли из Таллина незагруженными.

Первый конвой должен был начать движение 27 августа в 22 часа, а последний – покинуть рейд 28 августа в 10.30. Однако помешал ветер, усилившийся до 7 баллов. Тральщики не могли следовать с поставленными тралами. Трибуц отдал приказ до улучшения погоды всем кораблям и судам стать на якорь у островов Найсаар и Аэгна. До съемки с якоря к конвоям присоединилось еще до 30 шхун, буксиров, мотоботов и возвратившаяся из боевого похода подводная лодка Щ-301. Из-за вынужденной стоянки отодвинулись сроки выхода, поэтому форсировать минные заграждения пришлось не днем, как это предусматривалось планом, а ночью. Германское командование по каким-то причинам не сумело воспользоваться ситуацией и массированного воздушного удара по скоплению кораблей, катеров и судов в 220 вымпелов не нанесло.

28 августа в 11.35, после того как ветер стих, суда стали сниматься с якорей. Отряд главных сил начал движение около 16 часов. В 17.15 выступил отряд прикрытия, обгоняя транспорта и одновременно прикрывая их с запада. Арьергард держался на выходе с Таллинского рейда до наступления темноты, прикрывая общий отход. В это время заградительный отряд минировал гавани и рейды и район у острова Аэгна.

Конвои следовали за тихоходными тральщиками со скоростью не более 6 узлов. Отряды главных сил и прикрытия, каждый за 5 тральщиками, шли со скоростью 10–12 узлов. На противоминных кораблях имелись только подсекающие буксируемые тралы, ощутимо снижавшие скорость перехода. Через 2–3 часа после съемки с якорей корабли и суда вытянулись в одну линию протяженностью более 15 миль. Всего в прорыве, по данным контр-адмирала Р.А. Зубкова, участвовало 153 боевых корабля и катера и 75 судов, в том числе один крейсер, 10 эсминцев, 9 сторожевиков, 3 канонерские, 11 подводных лодок и 10 базовых тральщиков.