В 1233 году немцы начали беспокоить Новгород-Псковские волости. В 1234 году Ярослав выступил в поход; не дойдя до Юрьева (Дерпта) – цели похода, он остановился. Немцы из Юрьева и Медвежьей Головы (Оденпе) выступили против русских, но потерпели поражение и примирились с Ярославом. В том же году литовцы напали на Русу, но отбиты были и стали отступать. Ярослав настиг их на Дубровне, в Торопецкой волости, отнял у них 300 коней и товар. Литовцы, бросая оружие и щиты, бежали в лес.
В южной Руси около того времени шла борьба между князьями из-за Киева и Галича. В 1234 году Владимир Рюрикович киевский вел войну с Михаилом Черниговским, но при Торческе был разбит и взят в плен. Киевский стол занял родственник и союзник Михаила, Изяслав Владимирович, князь Северский. Но в 1236 году, освободившись из плена за большой выкуп, Владимир выгнал Изяслава из Киева, но не мог удержать киевского стола за собой, по настоянию Даниила Галицкого и великого князя владимирского он должен был уступить его Ярославу Всеволодовичу. Ярослав, оставив в Новгороде сына своего Александра, отправился в Киев с лучшими новгородскими мужами, которых, продержав там неделю и одарив, отпустил обратно в Новгород.
Ярославу не долго пришлось сидеть в Киеве. 4 марта 1238 года на берегу реки Сыти, произошла известная битва великого князя владимирского Юрия Всеволодовича с татарами, в которой он пал. Юрий, между прочим, поджидал здесь братьев, Ярослава и Святослава. Последний, по Тверской летописи, участвовал в этой битве. На свободный великокняжеский стол, по старшинству, должен был сесть брат Юрия, Ярослав, который и поспешил теперь из Киева (или из Новгорода) во Владимир, представлявший из себя груды развалин и человеческих трупов – следы татарского меча и огня. Первою заботой князя было очищение стольного города от трупов, которыми наполнены были не только улицы, дворы и жилища, но и самые храмы, нужно было собрать и ободрить разбежавшихся от татарского нашествия жителей. Заботясь о приведении в порядок столицы, Ярослав в то же время позаботился и о своих братьях: Святославу он дал Суздаль, а младшему, Ивану, – Стародуб. Наконец, в следующем 1239 году распорядился перенесением из Ростова во Владимир тела Юриева, которое встречено было духовенством и народом и после обычных церковных песнопений, положено во храме (Успенском) Богоматери, где лежал и прах отца его, Всеволода.
В том же году литовцы, вероятно пользуясь сумятицей, происходившей в северо-восточной Руси, начинают теснить Смоленск. Ярослав Всеволодович предпринял против них поход, победил их, пленил их князя и посадил в Смоленске Всеволода Мстиславича, сына Мстислава Романовича, бывшего великого князя киевского.
Вообще, надобно заметить, что летописные известия 1235–1238 годов темны, противоречивы и сбивчивы. Так, Ипатьевская летопись под 1235 годом говорит, что Ярослав Всеволодович взял Киев под Владимиром Рюриковичем; а по Густинской летописи в 1236 году Ярослав сел на Киевском столе, но в том же году выгнан оттуда Владимиром Рюриковичем. Если это так, то можно предположить, что Ярослав мог удалиться в Новгород, и в таком случае известие Никоновской летописи о том, что в 1238 году Ярослав пришел во Владимир из Новгорода, надобно считать правдоподобным, тем более, что одна только Воскресенская летопись говорит, что Ярослав пришел во Владимир именно из Киева, а после него в Киеве сел Михаил Черниговский. В Ипатьевской летописи под 1235 годом говорится, что Ярослав взял под Владимиром Рюриковичем Киев, но «не мога его держати иде пакы Суздалю». Татищев под 1235 годом говорит, что Ярослав «пришед к Киеву, сам сел на Киеве, но недолго держав, учинил со Изяславом договор, что ему за Владимира окуп заплатит, и Смоленск ему отдав, сам возвратился». Далее, под 1236 годом у Татищева говорится, что Изяслав послал к великому князю Юрию послов с просьбой о любви и дружбе. Упоминаемый здесь Изяслав – лицо неопределенное.