Пётр Иванович Ивашутин родился 18 сентября 1909 г. в городе Брест-Литовске (ныне Брест) в семье машиниста-железнодорожника. Во время Первой мировой войны семья оказалась в России. Пётр Ивашутин окончил железнодорожное училище в г. Сновск, профессионально-техническую школу в Городне Черниговской области. В 1926–1931 гг. работал на прядильно-ткацкой фабрике имени Ф. Э. Дзержинского, бригадиром слесарей на механическом заводе № 1 «Сантехстрой» в г. Иваново, учился на рабфаке. В 1930 г. молодого рабочего приняли в ВКП(б).

В 1931 г. Пётр Ивашутин был призван на военную службу и стал курсантом Военной школы лётчиков. В 1933 г. после успешной сдачи выпускных экзаменов был направлен в эскадрилью тяжёлых бомбардировщиков авиабригады Московского военного округа на должность лётчика-инструктора. В 1934–1935 гг. служил лётчиком-бомбардировщиком ТБ-3, в 1937 г. назначен командиром этой боевой машины. В том же году он поступил в Военно-воздушную академию им. Н. Е. Жуковского.

В 1939 г. Пётр Ивашутин, как один из лучших студентов второго курса академии, был отобран для прохождения службы в специальных органах Наркомата внутренних дел СССР. Тогда он расстался с военной авиацией и стал начальником отдела стрелкового корпуса Ленинградского военного округа. Принимал участие в Советско-финской войне (1939–1940). Затем служил в Белорусском военном округе. В мае 1941 г. был переведён в Закавказский военный округ.

В начальный период Великой Отечественной войны Пётр Ивашутин — заместитель начальника особого отдела Крымского и Северо-Кавказского фронтов. С декабря 1942 по март 1943 г., в самый напряжённый период битвы за Кавказ, он служил начальником отдела Черноморской группы войск Закавказского фронта, а с марта по апрель 1943 г. возглавлял контрразведку 47-й армии. В последующем (апрель 1943 – июль 1945 гг.) Пётр Иванович возглавлял Управление контрразведки «СМЕРШ» Юго-Западного, 1-го Украинского и 3-го Украинского фронтов. 26 мая 1943 г. ему было присвоено звание генерал-майора, а 25 сентября 1944 г. — генерал-лейтенанта.

После окончания Великой Отечественной войны П. И. Ивашутин возглавлял военную контрразведку Южной группы советских войск. В 1947–1949 гг. руководил военной контрразведывательной деятельностью Группы советских оккупационных войск в Германии. В ноябре 1949 г. назначен на должность начальника Управления контрразведки Ленинградского военного округа. В декабре 1951 г. становится заместителем начальника 3-го Главного управления МГБ СССР.

В сентябре 1952 г. П. И. Ивашутин был назначен министром государственной безопасности Украинской ССР, а после реорганизации органов безопасности, с марта по июнь 1953 г. занимал должность заместителя министра внутренних дел Украины по оперативной работе.

В июле 1953 г. становится заместителем начальника 3-го Главного управления (военная контрразведка) МВД СССР. После создания Комитета государственной безопасности при Совете Министров СССР П. И. Ивашутин был назначен начальником одного из отделов, затем заместителем председателя, с 1956 г. — первый заместитель Председателя КГБ СССР. 18 февраля 1958 г. ему было присвоено звание генерал-полковника.

С марта 1963 г. генерал армии П. И. Ивашутин на посту начальника Главного разведывательного управления, где он проявил себя как самостоятельный, ответственный и принципиальный военный руководитель. Он уделял большое внимание работе разведывательных органов и делал всё возможное, чтобы управление работало как слаженный механизм, а руководство государства своевременно получало информацию военного, военно-политического, военно-технического и военно-экономического характера. Он активно содействовал оснащению военной разведки современными техническими средствами, добивался комплексного использования всех сил и средств военной разведки.

П. И. Ивашутин возглавлял советскую военную разведку до 1987 г. 23 февраля 1971 г. стал генералом армии. За годы его деятельности советская военная разведка превратилась в одну из лучших разведывательных служб мира. С июля 1987 года П. И. Ивашутин работал в Группе генеральных инспекторов Министерства обороны СССР. Вышел в отставку 12 мая 1992 г.

Пётр Иванович принимал активное участие в общественной жизни. Был членом ЦК Компартии Украины, делегатом семи съездов КПСС, избирался депутатом Верховных Советов Украинской ССР, РСФСР и СССР.

За мужество и отвагу, проявленные в борьбе с немецко-фашистскими захватчиками в годы Великой Отечественной войны, и успешную деятельность по укреплению Вооруженных Сил СССР в послевоенный период генералу армии П. И. Ивашутину 21 февраля 1985 г. присвоено звание Героя Советского Союза. Награждён также тремя орденами Ленина (1944, 1978, 1985), Маршальской Звездой (1974), орденом Октябрьской Революции (1974), пятью орденами Красного Знамени (1944, 1952, 1964, 1967, 1980), тремя орденами Красной Звезды (1940, 1943, 1946), двумя орденами Кутузова 2-й степени (1945, 1981), орденом Богдана Хмельницкого 1-й степени (1945) и др.

П. И. Ивашутин умер 4 июня 2002 г. в Москве, похоронен на Троекуровском кладбище. Его именем названа улица в Хорошевском районе Москвы. В здании Главного управления Генерального штаба 4 сентября 2009 г. открыта мемориальная доска с барельефом П. И. Ивашутина.