После окончания военной школы Василия Маргелова направили в 33-ю стрелковую дивизию командиром пулеметного взвода 99-го стрелкового полка. В короткий срок по всем показателям он вывел свой взвод в передовые: лыжные кроссы, физподготовка, стрельбы. Дни напролет он проводил со своими бойцами в учебных классах и на полигоне. Вскоре последовал перевод: «Назначить командиром взвода в полковую школу».

Полковые школы – великое детище Красной армии. Через них прошли многие командиры, будущие Герои Советского Союза, выдающиеся солдаты, специалисты – пулеметчики, минометчики, саперы, санитары, командиры отделений, взводов, рот, командиры расчетов и экипажей, механики-водители танков и самоходок. Полковые школы готовили специалистов самых массовых и ходовых армейских профессий для фронта в годы войны.

Шел 1932 год. В войсках начался массовый призыв бойцов, младших командиров и офицеров в Военно-воздушные силы. Отбирали наиболее грамотных, физически крепких, «способных к летно-подъемной работе». Возраст добровольцев ограничивался. Некоторые биографы Маргелова предполагают, что именно тогда, подавая рапорт о переводе в ВВС, он «помолодел» на целых два года.

В тот же год Маргелова зачислили в Оренбургскую школу летчиков и летнабов. Новую военную профессию он осваивал легко, азартно, и, видимо, вскоре Военно-воздушные силы РККА обрели бы еще одного талантливого военлета и лихого аса, но, как впоследствии пояснял сам Маргелов, «случилась неприятность».

Сидел он в учебном классе и чистил пистолет. Со своим именным ТК он не расставался. Вполголоса напевал популярную тогда в курсантской среде шуточную песенку о Буденном и Ворошилове на мотив «Песни о Конармии»:

Курсанты ему подпевали хором, посмеивались. Красная армия менялась, кавалерия уходила в прошлое, эскадроны пересаживались на колеса. На смену клинку пришло автоматическое оружие. Легендарных краскомов, героев Гражданской войны числили по разряду ретроградов. И это выплескивалось в том числе и в солдатский фольклор. Но, на беду певцов, в учебный класс тихо вошел комиссар. И как всякий бдительный комиссар, обязанный следить за чистотой нравов личного состава вверенного ему подразделения, зафиксировал проступок курсантов и дал делу ход.

Можно, конечно, и усомниться в правдивости легенды о песне – никаких подтверждений ей нет. Но как бы там ни было, спустя несколько дней Маргелов снова появился в Минске в родной военной школе, которая называлась уже Минским военно-пехотным училищем им. М. И. Калинина. Теперь училище расширилось и готовило кадры не только для Белорусского военного округа, но и для всей Красной армии.

В феврале 1934 года со взвода Маргелова перевели на должность помощника командира роты, в мае 1936 года назначили командиром 4-й пулеметной роты. Одновременно он исполнял обязанности политрука роты. Вот расписание занятий в училище той поры:

«Огневая подготовка

Темы: „Управление огнем“ (3 часа). „Приборы управления огнем“ (3 часа). „Внутренняя и внешняя баллистика“ (3 часа).

Преподаватель: Маргелов.

Тактическая подготовка

Темы: „Пулеметный взвод в наступлении и обороне“ (6 часов). „Взаимодействие со стрелковыми подразделениями“ (6 часов).

Преподаватель: Маргелов.

Строевая подготовка

Тема: „Парадные строи“.

Старший лейтенант Маргелов.

Физическая подготовка

Темы: „Упражнение на гимнастических снарядах“. „Трамплин и лыжи“.