В начале 1920-х годов князь Шаховской постепенно отошел от активной политической деятельности. Он продолжал работать в кооперации, занимался литературным трудом, активно включился в краеведческую работу. В 1930 году Д.И. Шаховской вышел на пенсию по инвалидности. Однако и это скудное содержание в размере 75 рублей в месяц вскоре решили отобрать. Судя по письмам Дмитрия Ивановича, его случайный литературный заработок, составлявший не более 200 рублей в год, также оказался под угрозой. Ему приходилось буквально на каждом шагу сталкиваться с множеством проволочек, затягиванием сроков заключения договоров и выхода его работ.

Начиная с 1932 года в письмах к близким друзьям Дмитрий Иванович все чаще и чаще жаловался на состояние здоровья. Однако он продолжал посещать Румянцевский музей, ездил в Ленинград, где работал над архивными материалами по истории декабризма и биографией П.Я. Чаадаева. Шаховской живо интересовался текущей общественно-политической жизнью, состоянием академической науки. В письме к В.И. Вернадскому от 17 марта 1937 года он подчеркивал, что «без победы культурной завоевания революции не могут быть прочными».

Политическая атмосфера в стране 1930-х годов действовала на Шаховского удручающе. В письме И.М. Гревсу от 24 апреля 1938 года он писал: «Приходится уйти в себя и быть молчаливым свидетелем происходящего вокруг». Но это не помогло. В ночь с 26 на 27 июля 1938 года в квартире Шаховского (Зубовский бульвар, 15, 23) был произведен обыск, а сам он арестован (ордер на арест № 554 подписал Ежов). В ходе обыска был конфискован семейный архив; через несколько дней вывезены остальные вещи, и квартиру заняли другие жильцы. Арестованный Шаховской был конвоирован по внутреннюю тюрьму НКВД на Лубянке, где находился почти месяц без предъявления официального обвинения. По сохранившимся свидетельствам людей, сидевших вместе с Шаховским в тюрьме, Дмитрия Ивановича многократно допрашивали, сутками заставляли 76-летнего старика стоять без сна. Под давлением следователей 15 августа 1938 года князь Шаховской написал заявление, в котором, не назвав никого из единомышленников, лично себя признал виновным в контрреволюционной деятельности и в том, что на протяжении ряда лет вел борьбу с советской властью. Лубянские следователи, решив, что дело сделано, отправили Шаховского в Бутырскую тюрьму, где было продолжено уже официальное следствие.

В деле Шаховского сохранились протоколы допросов, которые проводились в любое время суток и продолжались вплоть до 3 ноября 1938 года. Однако и они не дали следователям ожидаемого результата. Дело в том, что Шаховской признавал свое участие в нелегальной деятельности ЦК кадетской партии с 1917 по 1922 год, но категорически отказывался давать какие-либо показания о контрреволюционной деятельности в дальнейшие годы и о других участниках нелегальных кадетских организаций. 2 ноября 1938 года ему было официально предъявлено обвинение по статье 58 (пункты з, 6, 8, и, 17) УК РСФСР. Начались новые допросы, теперь уже в Лефортовской тюрьме.

Попытку облегчить участь своего товарища предпринял академик В.И. Вернадский. 17 декабря 1938 года он обратился с письмом к Вышинскому с просьбой о встрече, намереваясь переговорить о судьбе «дорогого друга Дмитрия Ивановича Шаховского, одного из благороднейших и морально высоких людей, с которыми я встречался в своей долгой жизни». 20 декабря 1938 года эта встреча Вернадского с Вышинским состоялась, но не дала видимых результатов.

20 февраля 1939 года следствие было завершено. В обвинительном заключении говорилось, что Шаховской являлся участником «антисоветской террористической организации, ставившей себе целью свержение Советской власти и восстановление капитализма при помощи интервенции фашистских стран, а также подготовляющей террористические акты против руководителей партии и правительства». В середине апреля