В органах шла активная работа по пересмотру многих уголовных дел незаконно арестованных советских граждан и осужденных в качестве «врагов народа». Этот процесс тоже подтолкнул Ивашутина дать согласие стать в ряды сотрудников контрразведки и таким образом глубже разобраться в происходивших процессах. Он понимал, что несправедливость коснулась не всех. Многие были арестованы и осуждены справедливо – вражеские разведчики, воинствующие троцкисты, убийцы, грабители, разбойники, воры, мздоимцы и тому подобный элемент.

Делая первые самостоятельные шаги в органах, он понял, что ему придется многому учиться, что чекистская практика совсем не ремесло, а искусство, требующее широкодиапазонных знаний. И еще он помнил давний и мудрый завет отца: пока человек учится, он не стареет. Этому завету он обязан своим профессиональным ростом.

Его послужной список велик и вполне объясним с точки зрения грамотного, умного, авторитетного работника, достойно оцененного вышестоящим руководством.

В органах государственной безопасности он прошел большой оперативный путь:

• начальник особого отдела НКВД 23-го стрелкового корпуса;

• начальник особого отдела корпуса НКВД БВО 01.1939— 05.1941 г.;

• заместитель начальника 3-го отдела 00 НКВД Закавказского ВО 05.1941—10.1941 г.;

• заместитель начальника особых отделов НКВД Крымского фронта 28.01.42–19.05.42 г.;

• заместитель начальника особых отделов НКВД Северо-Кавказского фронта 20.05.42–03.09.42 г.;

• заместитель начальника особых отделов НКВД Черноморской группы войск 03.09.42–12.42 г.;

• начальник особых отделов НКВД 47-й армии 01.43–29.04.43 г.;

• начальник УКР СМЕРШ Юго-Западного фронта – 29.04.43–17.11.43 г.;

• начальник УКР СМЕРШ 3-го Украинского фронта 17.11.43–27.06.45 г.;

• начальник УКР СМЕРШ – УКР МГБ ЮГВ 27.06.45–10.11.47 г.;

• начальник УКР МГБ ГСОВГ 10.11.47–18.11.49 г.;

• начальник УКР МГБ ЛВО 18.11.49–25.12.51 г.;

• заместитель начальника 3-го гл. управления МГБ СССР 25.12.51–06.09.52 г.;

• министр госбезопасности УССР 06.09.52–16.03.53 г.;

• заместитель министра внутренних дел УССР 19.03.53–11.06.53 г.;

• заместитель начальника 3-го управления МВД (военная контрразведка) 27.07.53–17.03.54 г.;

• начальник 5-го управления КГБ при СМ СССР (контрразведывательное обеспечение особо важных государственных объектов – экономическая контрразведка) – 17.03.54–07.06.54 г.;

• первый заместитель председателя КГБ при СМ СССР – 24.01.56–14.03.63 г.

В этот период он, как заместитель председателя КГБ и куратор военной контрразведки, принял деятельное участие в создании при структуре центрального аппарата военной контрразведки отдела, занимающегося закордонной разведкой.

• с 5 по 13 ноября 1961 года исполнял обязанности председателя КГБ при СМ СССР (председатель А.Н. Шелепин, официально освобожденный от должности Указом Президиума Верховного Совета СССР 13 ноября, с 31 октября фактически в КГБ не работал),

• в 1962 году руководил следственной группой, направленной Президиумом ЦК КПСС в Новочеркасск,

• в марте 1963 года Ивашутин был назначен начальником ГРУ Генштаба ВС СССР после того, как его бывшего шефа в КГБ генерала армии И.А. Серова, ставшего в декабре 1958 года у руля советской военной разведки, сняли с должности. Его понизили в воинском звании до генерал-майора и лишили всех наград, в том числе Золотой Звезды Героя Советского Союза, инкриминировав ему измену Родине полковника ГРУ Олега Пеньковского, который по собственной инициативе стал агентом британской СИС и американского ЦРУ. Выяснилось тогда в ходе следствия, что Серов помог Пеньковскому вторично устроиться на службу в военную разведку. Более того, жена и дочь Серова при их посещении Лондона были под опекой Пеньковского и пользовались его услугами,