Война 1877–1878 годов стала проверкой эффективности военных реформ. Первая в истории России мобилизация была проведена достаточно оперативно. Войска успешно форсировали Дунай и вступили на болгарскую землю. Но последующие действия складывались для русской армии неудачно. Главная причина заключалась в некомпетентности и бездарности Верховного командования. Назначение на высшие военные посты оставалось прерогативой императора. Порочность этой практики проявилась и в русско-турецкую кампанию. В ней участвовали двенадцать великих князей, каждый из которых отнюдь не блистал полководческими дарованиями. Главнокомандующий великий князь Николай Николаевич и его окружение открыто враждовали с Милютиным, не желая прислушиваться к его рекомендациям. Они отвергли план стремительного наступления на Константинополь через центральные районы Болгарии в обход турецких крепостей, выработанный начальником Главного штаба Н. Н. Обручевым. Великий князь предпочел рассредоточить войска для решения второстепенных задач. В итоге армия оказалась в «котле» между четырехугольником турецких крепостей на востоке, Плевной – на западе и Балканами – на юге.

Однако и Милютин несет свою долю ответственности за неудачи и огромные человеческие жертвы. Его реформы в целом не привели к пересмотру устаревшей тактики, доказавшей свою полную несостоятельность еще в Крымскую войну. В армии продолжали исповедовать суворовский принцип «пуля – дура, штык – молодец». Приверженцем этой национальной традиции был и сам Дмитрий Алексеевич. Войска шли в атаку густыми ротными колоннами и не открывали огня, пока не приближались к противнику на несколько сотен шагов, а иногда и вообще не стреляли. Знаменитый генерал М. Д. Скобелев вел полки на турецкие позиции плотными массами, с развевающимися знаменами и под бодрые звуки оркестра. Это приводило к колоссальным потерям. Лишь постепенно офицеры и солдаты усваивали необходимость атаковать в стрелковых цепях, учились рассредоточиваться, окапываться и укрываться.

Успешному ходу войны не способствовали также личное присутствие Александра II на театре боевых действий и его постоянное вмешательство в управление войсками. При самодержце военный министр лишался реальных полномочий. Тем не менее, когда после третьего неудачного штурма Плевны император и командование склонялись к отводу армии за Дунай на зимние квартиры, именно Милютин настоял на проведении четвертого штурма, который привел к падению крепости. В конце ноября 1877 года, вручая военному министру орден Св. Георгия 2-й степени, Александр II сказал ему с благодарностью: «Я не забыл этой заслуги твоей; тебе мы обязаны нынешним нашим успехом». В августе 1878 года Дмитрий Алексеевич был возведен в графское достоинство.

В послевоенные годы влияние Милютина в верхах еще более усилилось. С уходом А. М. Горчакова в длительный отпуск он стал фактически направлять внешнюю политику государства. Его международный авторитет необычайно возрос. В дипломатической переписке он фигурирует как один из тех, в чьих руках «покоится европейский мир». Бисмарк в письме к баварскому королю Людвигу II прямо утверждал, что «руководящим министром, насколько таковой имеется ныне в России, стал военный министр Милютин». Дмитрий Алексеевич оказался дальновиднее многих видных сановников и самого Александра II, своевременно осознав опасность для России роста экономического потенциала и военной мощи Германии. Позиция министра вызывала тревогу у Бисмарка и других правителей соседней империи, которые видели в нем противника проводимой ими европейской политики.