В конце 1935 года бригада Сухого под общим руководством Туполева начинает разработку одномоторного двухместного разведывательного самолета АНТ-51, выполняющего функции легкого бомбардировщика с убирающимися шасси.

Шеф-пилот КБ Туполева Михаил Громов поднимает его в воздух 25 августа 1937 года с двигателем М-62. Пока шли заводские летные испытания, арестовывают А.Н. Туполева, его замов и многих его конструкторов. Сухого не трогают. Как заместитель арестованного Туполева, он остается главным на заводе.

Еще весной 1937 года ВВС прислали новые ТТТ на конкурсный многоцелевой боевой самолет «Иванов», разработку которого отслеживал Сталин и считал его очень важным для страны проектом. Опытные экземпляры туполевского «Иванова» получили наименование СЗ (Сталинское задание). Кроме туполевского, свои «Ивановы» смешанной конструкции строили авиаконструкторы Николай Поликарпов, Дмитрий Григорович и Сергей Кочеригин, а харьковский авиаконструктор Иосиф Нейман разрабатывал цельнодеревянный «Иванов».

Но повсему выходило, что туполевский «Иванов», разработанный Сухим, оказался лучшим. Павел Осипович проявил себя как энергичный и высококвалифицированный создатель надежных самолетов. Осенью 1937 года он держал в своих руках все нити доводки АНТ-51. Когда в сентябре летчик Алексеев посадил первый летный экземпляр с убранным шасси, Сухой быстро отремонтировал самолет и успешно завершил программу заводских испытаний. В цехе завода заканчивалась сборка еще двух летных экземпляров туполевского «Иванова», которые должен был опекать Сухой. В этих условиях Сталин не решился арестовать Сухого. Он не хотел резать курицу, которая несет золотые яйца. Так Павел Осипович избежал подневольного труда в сталинской «шарашке» на его же заводе № 156.

На третьем опытном «Иванове» Павел Сухой устанавливает двигатель М-87. Летчик А. Чернявский начал летные испытания в сентябре 1938 года, за три месяца до первого вылета и катастрофы Чкалова на истребителе Поликарпова с таким же двигателем. У Сухого никаких проблем с двигателем М-87 не возникало. Когда по рекомендации военных Сухой установил на этой машине двигатель М-87А, то и с ним его «Иванов» успешно завершил государственные испытания в Евпатории, как потом и с установленным двигателем М-87Б. Серийный «Иванов» Сухого Су-2 с двигателем М-88 также успешно прошел госиспытания. Так почему же серийное производство столь нужного стране истребителя Поликарпова И-180С с двигателем М-88 в 1939 году останавливают? Потому, что страной правил эмоциональный сумасброд.

Когда уже туполевская «шарашка» на заводе № 156 работала на полную мощность, пришел приказ народного коммисара авиапромышленности от 7 июля 1939 года о переводе конструкторов Сухого на харьковский серийный авиационный завод № 135, где начиналось массовое производство их детища. Соответствующее постановление от 4 августа 1939 года предписывало начать строительство ближнего бомбардировщика ББ-1 с мотором М-87А на авиазаводе № 135. Месяц спустя Павел Осипович Сухой назначается Главным конструктором авиазавода № 135 и КБ-29. Затем производство ББ-1 было организовано на таганрогском авиазаводе № 31 и на подмосковном – № 207 в Долгопрудном.

Начали серийное производство с мотором М-88, потом использовали М-88Б. До июня 1941 года сдали военным 413 самолетов Су-2. С началом войны темп выпуска самолетов увеличился. В Харькове в сентябре 1941 года выпускали 5 машин в день, перешли на мотор Швецова М-82 мощностью 1400 л.с., но вскоре завод пришлось эвакуировать в город Молотов (Пермь), где выпустили еще более 60 этих машин.