С начала 1930 г. Каганович – первый секретарь Московского областного, а также и городского комитетов партии, член Политбюро ЦК ВКП (б). Наряду с работой в Московской партийной организации Л. М. Каганович выполнял различные задания Сталина: чрезвычайными полномочиями форсировал коллективизацию на Украине, в Западной Сибири, во многих областях. Он заведовал сельскохозяйственным отделом ЦК ВКП (б), руководил организацией политотделов МТС и совхозов, чисткой колхозов от «подкулачников» и «саботажников». Занимался вопросами идеологии, культурной и внешней политики. Во время отъездов Сталина в отпуск к Черному морю Каганович оставался в Москве временным главой партийного руководства. Именно он был председателем Центральной комиссии по проверке партийных рядов, затем председателем Комиссии партийного контроля при ЦК ВКП (б). Многие авторы рассматривают чистку партии, начавшуюся в 1933 г., в качестве прелюдии к «ежовщине».
В мае 1935 г. в Москве была пущена первая линия метро, которая получила имя Л. М. Кагановича. В Москве реконструировали водопровод, построили новые мосты через Москву-реку, многие здания для государственных и иных учреждений; газовые и керосиновые фонари заменили электрическими. Работали свыше 20 проектных и планировочных мастерских. В 1935 г. был утвержден Генеральный план реконструкции Москвы. В 30-е годы большинство москвичей, скорее всего, радовались происходившим изменениям. Критикам приходилось помалкивать. Единицы, например архитектор, реставратор и историк П. Д. Барановский, стремились спасти от уничтожения старую Москву. Именно Л. М. Кагановича многие москвичи впоследствии стали считать виновником гибели многочисленных церквей, монастырей, памятников московской истории и старины. Московский период биографии Л. М. Кагановича отмечен орденом Ленина. Эту награду он получил одним из первых в стране.
С февраля 1935 г. Л. Каганович стал наркомом путей сообщения, еще через два года – наркомом тяжелой промышленности, а еще через два – наркомом топливной, затем нефтяной промышленности. Он был заместителем председателя СНК СССР, фактически вторым человеком в правительстве после Молотова. На всех высоких хозяйственных постах действовал напористо, энергично, применяя и пряник, и кнут. Впрочем, о пряниках вспоминают мало. Жесточайшая террористическая чистка, устроенная Л. М. Кагановичем в Метрострое, в НКПС, НКТП, на крупных промышленных предприятиях, позволяет считать его одним из «ударников» периода «ежовщины».
Во время Великой Отечественной войны Л. М. Каганович был наркомом путей сообщения. Он с другими наркомами перебазировался в Куйбышев. Железнодорожный транспорт справился с огромными перегрузками военного периода, возможно, и потому, что еще в 1935—1937 гг. Л. М. Каганович провел большую «воспитательную работу» среди железнодорожников. Незадолго до 50-летия «железному наркому» было присвоено звание Героя Социалистического Труда.
В послевоенный период его влияние стало падать. Застрелился, став жертвой шпиономании, старший брат Л. М. Кагановича Михаил Моисеевич Каганович, снятый с поста наркома авиационной промышленности.
После смерти Сталина Л. М. Каганович в качестве первого заместителя Председателя Совета Министров СССР контролировал несколько министерств, поддержал арест Берии, но в 1957 г. оказался в составе «антипартийной», а точнее, «антихрущевской» группы. Несколько лет отработал в городе Асбесте Свердловской области в тресте Союзасбест. Л. М. Кагановича исключили из партии, он стал обычным пенсионером с пенсией 115 рублей в месяц. Случайные встречи с родственниками людей, репрессированных с его непосредственным участием, были редкими и неприятными. Когда возраст бывшего «железного наркома» стал подходить к 90 годам, ему разрешили лечиться в Кремлевской больнице, вернули «кремлевский паек» и увеличили пенсию. Чемпион квартала по домино умер в 1991 г. Его воспоминания вышли солидным томиком.