Как известно, В. И. Ленин учреждал Совет обороны тоже с целью обуздать власть военных во главе с Троцким. Такая потребность возникла, когда Троцкий совместно со Свердловым после покушения на Ленина образовали Революционный военный совет Республики. По факту РВСР имел полномочия шире, чем ленинский СНК. Созданием Совета обороны Владимир Ильич восстанавливал status quo, так как РВСР так же должен был подчиняться вновь созданному органу. Параллель между Советом рабочей и крестьянской обороны и ГКО была очевидна всегда.

Идея Государственного комитета обороны родилась у Сталина, очевидно, 29 июня 1941 года. Это произошло либо, как уже предполагалось, после посещения НКО, либо в момент работы над Директивой о мобилизации страны для отпора агрессору. За то, что именно Сталин мог стоять у истоков ГКО, помимо всего прочего, свидетельствует содержание его выступления 3 июля 1941 года. Не только по смыслу, но и по стилистике оно вытекало из директивы 29 июня и постановления о создании ГКО. Во всех трех документах встречаются не только смысловые повторы, общие образы и обороты, но также текстовые совпадения, что невозможно назвать случайным и подтверждает их общее авторство.

Возвышаясь в качестве своего рода надстройки над всеми государственными органами, ГКО своего большого аппарата не имел. Он действовал через партийные и государственные органы, а так же общественные организации. В дальнейшем, когда выявится потребность оперативного решения ряда вопросов, будет учрежден особый институт уполномоченных ГКО. Они станут действовать на фронтах, в наркоматах, отдельных союзных республиках, краях и областях, на важнейших предприятиях и стройках. В особых случаях при ГКО создавались специальные комитеты и комиссии. Например, в разное время существовали Трофейная комиссия, Комитет по эвакуации, Совет по радиолокации, Транспортный комитет и др.

В прифронтовых районах функцию чрезвычайных органов власти осуществляли созданные ГКО в 1941–1942 годах городские комитеты обороны. Всего городские комитеты обороны были созданы более чем в 60 городах, в том числе в таких городах-героях, как Севастополь, Одесса, Тула и др. Так же, как и Государственный, городские комитеты обороны призваны были объединить воедино все рычаги власти: партию, армию, местную администрацию. Как правило, во главе их оказывались первые секретари обкомов или горкомов ВКП(б). Членами городских комитетов обороны становились представители местных советских и военных органов. В сферу деятельности чрезвычайных органов на местах входило руководство производством и ремонтом боевой техники и вооружения, строительством, созданием народного ополчения и других добровольческих формирований.

В местностях, объявленных на военном положении, вся полнота власти по части обороны, охраны общественного порядка и государственной безопасности переходила непосредственно к военным советам фронтов (округов), армий, а где не было военных советов – высшему командованию действовавших на данных территориях соединений. Указ от 22 июня 1941 г. наделял военные власти самыми широкими полномочиями. Они контролировали въезд и выезд из местности, объявленной на военном положении. По распоряжению военных из этой зоны могли в административном порядке выселяться любые нежелательны лица. Изданные военными властями постановления для населения данной местности являлись общеобязательными. За их неисполнение виновные подвергались в административном порядке лишению свободы до 6 месяцев или штрафу до 3 тыс. рублей. В случае необходимости военные могли мобилизовать транспортные средства, устанавливать военно-квартирную и трудовую повинность. Они же получали право регулировать режим работы предприятий, учреждений, торговли и коммунальных служб. Порядок проведения собраний и шествий так же переходил в ведение военных властей.