После начала Второй мировой войны на территории СССР, в конце июня 1941 года вошел в оперативную группу по руководству партизанским движением и подпольной деятельностью на оккупированной территории Украины при Военном совете Юго-Западного фронта и занимался организацией партизанского движения на Украине

Позднее был комиссаром инженерных войск на Сталинградском фронте (1942). В 1944 году назначен заместителем министра по строительству Украинской ССР. Был заместителем Георгия Маленкова в ЦК ВКП(б) по танковой промышленности СССР. После окончания войны в 1945 году занимался восстановлением шахт Донбасса. Разошёлся в мнениях с Никитой Хрущёвым о путях восстановления Донбасса и был отправлен руководить Крещатикстроем в Киеве. После встречи с Авраамием Завенягиным в 1945 году был назначен начальником строительства Челябинска-40. В 1946 году назначен первым заместителем «Челябинскметаллургстроя». В 1947—1950 гг. был начальником Лаборатории «В». С 1951 года руководил строительством первой в мире Обнинской АЭС.

Пётр Захаров был одним из инициаторов решения о строительстве в будущем Обнинске атомной электростанции и экспериментальных критических стендов для будущего атомного подводного флота.

Используя свои связи в отделе кадров Министерства среднего машиностроения СССР, подбирал для работы в будущем Обнинске не просто лучших выпускников профильных высших учебных заведений и даже не просто лучших спортсменов — а капитанов волейбольных команд вузов, составивших впоследствии костяк волейбольной сборной Обнинска. Так на работу в Лабораторию «В» попали Борис Габрианович из Казанского химико-технологического института, Герман Тимофеев из Московского государственного университета, Александр Дерюгин из Уральского политехнического института, Борис Громов из Московского энергетического института.

Захаров был одним из главных организаторов спорта на Объекте «В» и после работы очень любил судить волейбольные игры.