7 ноября 1833 года А. М. Горчаков получил назначение советником русского посольства в Вене. Русским послом в Вене был Д. П. Татищев, а министром иностранных дел Австрии – Меттерних.

С. С. Татищев писал в своей работе «Из прошлого русской дипломатии»:

«Система Меттерниховской дипломатии состояла в том, чтобы любой ценой, любыми средствами скрепить разрозненные и противоречивые части лоскутной австрийской империи.

Николай I лично не любил Меттерниха и с недоверием относился к его столь приторным и слащавым заявлениям о вечной дружбе между Австрией и Россией. Этому во многом способствовал Горчаков, который при внимательном и тщательном изучении внешней политики австрийского кабинета, приходил в своих донесениях, депешах к бесспорному выводу, что Меттерних под личиной дружественных отношений проводит по отношению к России враждебную линию. Значительная часть австрийских агентов, согласно инструктивным указаниям Меттерниха, усердствовали в поддержке враждебного образа действий против России. В их бесцеремонной деятельности явственно обнаруживалась неприкрытая зависть к могуществу России. Меттерниховы агенты ревностно воздвигали различные препятствия русской внешней политики, особенно на Ближнем Востоке» (29).

За успешную дипломатическую деятельность в Вене Горчаков, исполнявший несколько раз должность посла, получил чин статского советника и командорский крест Тосканского ордена святого Иосифа, 5 декабря 1834 года – орден святого Станислава II степени со звездой.

В сентябре 1835 года в австрийском городе Теплице состоялось свидание императоров России, Австрии и Пруссии, обсудивших отношение союза северных держав к Англии, Франции, Бельгии, Голландии и Испании, в котором участвовал и Горчаков. «Горчакову удалось предотвратить целый ряд враждебных шагов Меттерниха по отношении к России. Меттерних во время переговоров открыто стремился к тому, чтобы сосредоточить в своих руках все нити европейской политики с тем, чтобы разыграть роль миротворца в Европе. Постоянным своим заигрыванием то с французским, то с английским кабинетом, Меттерних ускорял развязывание борьбы между Англией и Россией.

Горчаков своими разумными суждениями, умелыми политическими расчетами обратил на себя внимание всех европейских дипломатов. Меттерних начал его побаиваться и теперь усматривал в нем главного своего врага. В награду отличной ревностной службы Горчаков был пожалован 8 марта 1837 года золотой табакеркой, украшенной бриллиантами» (29).

После встречи в Теплице 26 сентября Николай I и Бенкендорф на несколько дней приехали в Вену, где при встрече Горчакова с временщиком князь вызвал недовольство шефа жандармов своим чувством собственного достоинства.

26 апреля 1838 года Горчаков был «уволен от должности советника посольства в Вене для употребления по другим делам», но в Петербурге другого назначения не получил, подал в отставку и 25 июля 1838 года был уволен с дипломатической службы. В том же году Горчаков женился на вдове графа Мусина-Пушкина, урожденной княжне Урусовой, с помощью родственных связей вернувшей мужа на дипломатическую службу. «17 июля 1837 года Горчаков женился на княжне Марии Александровне Урусовой (вдове гофмейстера графа Ивана Алексеевича Мусина-Пушкина), слывшей необычайной красавицей. Тестем князя Горчакова стал князь Александр Михайлович Урусов (президент Московской дворцовой конторы), который оказывал ему немаловажное содействие в его жизни.

За излишне самостоятельные мнения Горчаков подвергается нападкам со стороны своего старого врага Нессельроде, ждавшего случая отомстить Горчакову – восходящей звезде русской дипломатии. Для Горчакова в посольстве была создана неблагоприятная атмосфера для успешной работы. Его начали обходить. Горчаков хотел исправить дело демонстративной подачей заявления об отставке. Высочайшим указом от 25 июля 1838 года он был уволен от службы. 24 октября 1839 года Горчакова определили с чином действительного статского советника в министерство иностранных дел» (29).