После смерти Альбрехта I его сыновья, австрийские герцоги Фридрих Красивый и Леопольд, пытались бороться за германскую корону, но неудачно: от нее Габсбургов оттеснили вначале герцоги Люксембурга, а затем баварская династия Виттельсбахов, глава которой Людвиг IV в 1322 году разбил Фридриха и Леопольда в битве у Мюлльдорфа. Выбор Альбрехтом I имен для своих сыновей не случаен: Фридрихами и Леопольдами были многие Бабенберги, и, называя собственных потомков в честь представителей первого австрийского герцогского рода, Габсбург хотел символически породниться с Австрией, завоеванной его отцом.

В 1330 году, после смерти невезучего и довольно бесцветного Фридриха Красивого, власть в Австрии и Штирии перешла к следующему из сыновей короля Альбрехта – Альбрехту II, вошедшему в историю под двумя прозвищами – Хромой и Мудрый, оба из которых были вполне заслуженны. Хромота Альбрехта была вызвана сильнейшим полиартритом, ставшим, очевидно, следствием какого-то инфекционного заболевания. Что же до мудрости, то о ней свидетельствовала не только стойкость и самоирония, с которыми Альбрехт переносил свой мучительный недуг (временами он вообще не мог передвигаться самостоятельно), но и политика герцога, превратившего Австрию из набора феодальных ленов в единое и достаточно мощное государство. Альбрехт II унаследовал земли Габсбургов после смерти старшего брата и первое время правил вместе с младшим братом Оттоном, который сначала вытребовал у старших братьев долю доходов с австрийских земель, а в 1330 году также был провозглашен герцогом Австрии.

Еще в 1324-м Альбрехт женился на Иоганне, дочери последнего графа Пфирта Ульриха III, таким образом присоединив к владениям Габсбургов еще одну область в Эльзасе.

В 1335 году умер последний представитель Горицко-Тирольской династии Генрих Хорутанский. Согласно заключенному в 1282 году соглашению между Габсбургами и Горицко-Тирольским домом все владения последнего должны были отойти Габсбургам. Альбрехт II немедленно оккупировал Каринтию и Крайну, однако в Тироле столкнулся с сопротивлением соседней Баварии, также претендовавшей на наследие Генриха Хорутанского. Согласно австро-баварскому договору 1335 года Каринтия и Южный Тироль отходили к Австрии, а северный Тироль – к Баварии. Но против раздела своей страны выступили сами тирольцы. Вспыхнуло восстание с требованием восстановления на престоле законной наследницы Маргариты, единственной дочери Генриха Хорутанского. Австрийцы и баварцы были вынуждены покинуть страну и признать Маргариту правительницей Тироля.

Альбрехт II отличался умом и большой работоспособностью. Несмотря на физический недостаток, он непрестанно объезжал свои владения и входил во все мелочи управления. Много внимания герцог уделял упорядочению государственной системы своих владений. Для Штирии и Каринтии он разработал и утвердил основные законы, остававшиеся в силе до падения монархии Габсбургов, в том числе штирийскую «Горную книгу». Только благодаря активности Альбрехта II Австрия благополучно пережила все напасти, пришедшиеся на то время: нашествие саранчи в 1338 году, несколько наводнений в 1340-х годах, эпидемия чумы 1348–1349 годов.

Благодаря своей рассудительности и отсутствию агрессивных внешнеполитических устремлений Альбрехт II завоевал достаточный авторитет в Германии. В 1335 году, например, Папа Римский Бенедикт XII прибег к посредничеству Альбрехта II в споре с императором Людвигом IV. В 1337 году за помощью к Альбрехту II в борьбе против императора и Англии обратился французский король Филипп VI. Однако австрийский герцог отказался выступить против Людвига IV и до конца жизни оставался лояльным императору.