По распоряжению великого князя Павла Петровича в январе 1774 года Н.С. Мордвинов получил чин капитан-лейтенанта и был для «усовершенствования в морских делах» командирован в Англию. Однако его обучение не ограничилось знакомством с особенностями организации морской службы в Англии. С 1774 по 1777 год Николай Семенович посетил Америку, Францию, Германию, Португалию, где не только обращал внимание на решение военно-технических вопросов, но и активно интересовался особенностями систем государственного управления и экономической политики правительств. На родине его военная карьера успешно продолжалась: осенью 1777-го он был назначен флагманским генеральс-адъютантом; в 1781-м получил чин капитана II ранга, а весной 1783-го – капитана I ранга. В 1782–1783 годах Мордвинов командовал одним из кораблей, участвовавших в «секретной экспедиции» вице-адмирала В.Я. Чичагова в Средиземном море. Вернувшись в Россию в сентябре 1785 года, он служил в Черноморском адмиралтейском правлении в Херсонесе, а в 1786-м стал его председателем. В начале Русско-турецкой войны 1787–1791 годов «за храбрость и умелое командование» Мордвинов был награжден орденом Анны 1-й степени и произведен в чин контр-адмирала.

Однако внешне благополучная карьера сопровождалась серьезными конфликтами и разочарованиями. Как человек принципиальный и во многом даже жесткий при отстаивании своих убеждений, Мордвинов неоднократно вынужден был подавать прошение об отставке. Первый раз это произошло в 1790 году в связи с острыми разногласиями между ним и командующим Черноморским флотом князем Г.А. Потемкиным. Только после смерти последнего Мордвинов представил императрице всеподданнейший доклад о состоянии Черноморского флота и лишь в феврале 1792 года был восстановлен в должности председателя Черноморского адмиралтейского правления. Вскоре Мордвинов был удостоен звания вице-адмирала и назначен командующим Черноморским флотом, а в ноябре 1792 года награжден орденом Св. Александра Невского. В 1793 году он был пожалован орденом Владимира 1-й степени, а в сентябре 1797-го именным указом императора Павла I произведен в чин полного адмирала.

Второй раз продвижение Н.С. Мордвинова по службе было приостановлено в 1799 году, после взрыва боеприпасов в порту города Николаева. Для выяснения всех обстоятельств он был вызван в Петербург, арестован, но вскоре оправдан. После этого инцидента он ушел в отставку и уехал в свое имение Суук-Сук в Крыму.

С приходом к власти молодого императора Александра I Мордвинов был вновь приглашен на службу и назначен вице-президентом Адмиралтейств-коллегии. Но главное направление его деятельности теперь было связано не столько с военной сферой, сколько с обсуждением и подготовкой либеральных реформ в России. С этого времени он в качестве эксперта-консультанта по финансово-экономическим вопросам несколько раз участвовал в работе «Негласного комитета», а с 25 сентября 1801 года стал постоянным членом Непременного совета (предшественника Государственного совета). С образованием в сентябре 1802 года министерств Мордвинов возглавил Министерство морских сил, но уже через два месяца, в начале ноября 1802-го, снова подал прошение об отставке, объясняя свое решение невозможностью вести работу в обстановке многочисленных интриг. Получив отставку, он жил в Киеве, затем в Москве, где был избран губернским предводителем народного ополчения. За работу на этом посту (с декабря 1806-го по сентябрь 1807-го) Н.С. Мордвинов был награжден Золотой медалью «Земскому войску».