Помимо вопроса о Малиновском, разногласия у Белецкого и товарища министра внутренних дел Джунковского возникли также по поводу использования в качестве осведомителей охранки учащихся и офицеров – последний находил подобную практику «преступной» и «развращающей». Тем не менее директор Департамента полиции исподволь гнул свою линию и, как вспоминал Джунковский, намеренно «переутомлял меня всякой мелочью, испрашивая моего согласия на разные пустяки, стараясь этим отвлечь меня от главного, существенного». Конфликт между начальником и подчиненным закончился тем, что по инициативе Джунковского Белецкий 28 января 1914 г. был освобожден от руководства Департаментом полиции. За то время, что последний возглавлял государственную безопасность, он получил чин действительного статского советника (август 1912 г.). В день отставки он был произведен в тайные советники, назначен сенатором и определен в Первый департамент Правительствующего сената. Тем не менее сенаторская рутина тяготила деятельного Белецкого и при посредничестве князя М.М. Андроникова он добивается благорасположения Распутина, а через него и императрицы. Завоевал благосклонность и другого ближайшего лица супруги Николая II – фрейлины Анны Вырубовой, которую очаровал доскональным знанием всех интриг в высшем обществе и убедил в том, что только он сможет обеспечить безопасность старца. Последнее обстоятельство имело решающее значение, и в сентябре 1915 г. Белецкий был назначен товарищем министра внутренних дел, заняв должность своего недруга В.Ф. Джунковского. Министр внутренних дел А.Н. Хвостов (также получивший свой пост благодаря протекции Распутина) впоследствии утверждал, что Белецкий был буквально навязан ему императрицей Александрой Федоровной. Вскоре растущее влияние старца на все сферы государственной жизни стало серьезно мешать министру Хвостову, и он задумал убить Распутина, поручив эту деликатную миссию своему заместителю. Поскольку Белецкий не торопился исполнять это щекотливое поручение, явно противоречившее его личным интересам, то Хвостов решил связаться с Илиодором – заклятым врагом Распутина, жившим в это время в Норвегии. Выбранный министром на роль эмиссара репортер Б.М. Ржевский по возвращении в Россию был немедленно арестован по распоряжению товарища министра и на допросе сознался в участии в организации убийства Распутина. Хвостов утверждал, что послал Ржевского лишь для того, чтобы выкупить у Илиодора рукопись обличающей Распутина книги, а все остальное является возмутительной интригой Белецкого, решившего свалить своего шефа и выслужиться перед старцем и императрицей. Стараясь удержаться в зашатавшемся под ним кресле, министр внутренних дел в первую очередь постарался избавиться от своего вероломного заместителя и 13 февраля 1916 г. добился его назначения иркутским генерал-губернатором. В Сибирь Белецкий не поехал, а в ответ дал интервью корреспонденту «Биржевых ведомостей», в котором достаточно подробно изложил собственное видение роли своего бывшего начальника в подготовке убийства Распутина, под конец с гордостью заявив: «Я понимаю борьбу с революцией, с врагами строя, но борьбу честную, грудь с грудью. Они нас взрывают, мы их судим и караем. Но нападение из-за угла, но возвращение ко временам Венеции с ее наемными убийцами должны не укрепить, а расшатать и погубить государственность». Этим громким интервью Белецкий надеялся вновь заслужить милость распутинского окружения, однако вынос сора из избы вызвал острое недовольство правительства, и 15 марта 1916 г. он был уволен от должности иркутского генерал-губернатора с оставлением в звании сенатора (ранее был награжден орденами Св. Станислава 3-й и 1-й степеней). В этом звании его и застала Февральская революция. Вместе с несколькими другими бывшими руководителями Департамента полиции он был заключен в Трубецкой бастион Петропавловской крепости. Как свидетельствуют документы, Белецкий активно сотрудничал с Чрезвычайной следственной комиссией Временного правительства, надеясь откровенными и полными показаниями спасти себе жизнь. Октябрьская революция, однако, перечеркнула все его надежды. Очевидцы рассказывали, что панически боявшийся расстрела бывший директор Департамента полиции даже раздобыл яд для самоубийства, но не успел им воспользоваться. В дни «красного террора» находившейся под стражей группе царских сановников было объявлено, что их казнят как заложников. Чекисты вывезли арестованных на Ходынку и поставили на край общей могилы. Белецкий пытался бежать, но был застрелен конвоирами.