Продолжая преступные действия, Язов совместно с другими участниками заговора принял решение об образовании для управления страной антиконституционного органа – ГКЧП СССР с передачей ему всей полноты власти в стране, вошел в состав указанного Комитета и, таким образом, наравне с членами ГКЧП Баклановым, Крючковым, Павловым, Пуго, Стародубцевым, Тизяковым и Янаевым незаконно принял на себя полномочия высшего органа власти, то есть непосредственно осуществил захват власти в стране.
Совместно с другими участниками заговора Язов с целью обеспечения действий ГКЧП принял обращение к советскому народу и обращение к главам государств и правительств и Генеральному секретарю ООН. Осуществляя дальнейшие планы заговора, Язов 19 августа 1991 года непосредственно участвовал в принятии членами заговора противозаконных решений о введении в г. Москва чрезвычайного положения и о вводе в город войсковых подразделений; постановления ГКЧП № 1, которым грубо нарушались суверенитет республик и конституционные права граждан; постановления ГКЧП № 2 об ограничении в нарушение Закона СССР «О печати и других средствах массовой информации» перечня выпускаемых центральных, московских, городских и областных общественно-политических изданий; решения о проведении пресс-конференции для советских и зарубежных корреспондентов для обоснования действий заговорщиков.
20 августа 1991 года также совместно с другими участниками заговора Язов принял решение об ужесточении режима Гостелерадио СССР; о признании не имеющими юридической силы Указов Президента РСФСР № 59, 61, 62, 63 и постановления Совета Министров РСФСР № 435 от 19 августа 1991 года; об образовании штаба ГКЧП под руководством Бакланова; о направлении руководителям республик, краев и областей РСФСР телеграммы с предписанием образовать на местах органы, аналогичные ГКЧП.
Принимал участие в совещании в Министерстве обороны и на заседании ГКЧП по вопросу захвата Дома Советов РСФСР, что не было осуществлено в результате массового противодействия граждан и неповиновения непосредственных исполнителей операции.
Для осуществления планов заговора Язов использовал имевшиеся в его распоряжении силы и средства Министерства обороны и Советской Армии, а именно: 16 августа 1991 года он дал указание о подготовке двух вертолетов для доставки 18 августа в Москву для участия в реализации планов заговора А.И. Лукьянова.
18 августа направлял в ряд военных округов своих представителей для обеспечения предстоящего режима чрезвычайного положения.
Дал поручение о содержании и охране на территории в/ч 54164, расположенной в Московской области, подлежащих интернированию народных депутатов и других лиц из числа возможных противников заговора.
Распорядился о предоставлении самолета для доставки в Крым к Президенту СССР членов заговора Бакланова, Болдина, Шенина, Варенникова, Плеханова и Генералова. Распорядился отозвать из места пребывания Президента СССР офицеров, обеспечивающих возможность Президента воспользоваться в случае необходимости абонементским комплексом № 1 управления стратегическими и ядерными силами, и об изъятии указанного комплекса. 19 августа 1991 года дал указание о введении в Москву воинских подразделений.
Поручил организовать над Москвой воздушную разведку.
Отдал приказ о приведении всех войск в состояние повышенной боевой готовности и направил на этот счет директиву.
20 августа 1991 года поставил командующему Московским военным округом Калинину задачу по обеспечению в Москве комендантского часа.