После воцарения Александра I А.П. Ермолов в числе других опальных был возвращен из ссылки и вновь принят на военную службу в прежнем чине полковника артиллерии. Он активно участвует в войнах с наполеоновской Францией 1805–1807 годов, сражается при Амштеттене, Кремсе, Аустерлице, Голимине, Прейсиш-Эйлау, Гутштатте, Пасарге, Гейльсберге. За боевые отличия в этих сражениях Алексей Петрович был награжден Золотой шпагой, орденами Св. Владимира и Св. Георгия 3-й степени, алмазными знаками к имевшемуся у него ордену Св. Анны 2-й степени, произведен в генерал-майоры.
В Отечественную войну А.П. Ермолов вступил командиром Гвардейской пехотной дивизии. 1 июля 1812 года он был назначен начальником штаба 1-й Западной армии, которой командовал военный министр М.Б. Барклай-де-Толли. Он руководит отходом армии, организует ряд арьергардных боев, и по ходатайству своего прямого начальника 7 августа получает очередной чин генерал-лейтенанта.
После объединения 1-й и 2-й армий в единое формирование и назначения главнокомандующим М.И. Кутузова Ермолов становится начальником его штаба. В этой должности Алексей Петрович состоял вплоть до изгнания противника за пределы России и до смерти М.И. Кутузова. Причем во время контрнаступления русских войск он некоторое время даже командовал их авангардом.
Новый главнокомандующий пожелал иметь при себе другого начальника штаба. Но А.П. Ермолову в заграничном походе было поручено командование всей артиллерией русской армии. Он участвовал в сражениях при Дрездене, Люцене, Лейпциге, Кульме. При взятии Парижа в марте 1814 года Алексей Петрович командовал частями русской и прусской гвардии. В 1815 году он снова вступил в Париж во главе Резервного корпуса, после неудачного для Наполеона сражения при Ватерлоо. Заслуги А.П. Ермолова во время Отечественной войны и заграничного похода были отмечены высокими наградами, его имя стало широко известным и популярным в российском обществе и армии.
Русские войска в походе
Но заслуженный генерал не желал мирно почивать на лаврах и продолжал искать для себя интересную военную работу. Он обратился к императору с несколькими проектами переустройства армии с учетом опыта недавно завершившейся войны. Но для этого требовалось слишком много средств, и инициативный генерал стал неудобен в столице. Ему было предложено использовать свою энергию и боевой опыт на Кавказе. Алексей Петрович, у которого с Кавказом были связаны воспоминания юности, без колебаний принял это предложение. С его приездом в Тифлис в середине октября 1816 года начался новый этап укрепления владычества России на Кавказе, который, по сути, стал началом большой кавказской войны, продлившейся почти полвека.
Ко времени приезда Ермолова в Тифлис 10 октября 1916 года, Грузинский корпус состоял из двух пехотных дивизий, резервной бригады, семи отдельных армейских и более десяти казачьих полков. В составе этих формирований насчитывалось около 50 тысяч человек и 132 орудия полевой артиллерии, которым приходилось не только охранять южные границы империи, но и удерживать в покорности волнующиеся кавказские племена. Их усмирение требовало больших сил и средств, чем борьба с внешними врагами. Для ведения же войны на два фронта империя в то время силами не располагала. Поэтому правительством было решено обезопасить внешние границы мирными договорами с тем, чтобы основные усилия сосредоточить на решении внутренних проблем.
Деятельность Ермолова на Кавказе началась с инспекционной поездки по территориям южных ханств и подписания им мирного договора с Персией, который на некоторое время снял угрозу нападения со стороны этого государства. Сделать это было очень непросто. Император опрометчиво пообещал шаху значительные территориальные уступки. Но, объехав край, Ермолов убедился, что отдавать эти территории нельзя и что данная акция только усилит напряженность и создаст ряд других проблем. После этого Алексей Петрович повел дело так, что шах сам отказался от ранее выдвинутых претензий, согласившись на условия русского главнокомандующего.