Академик АН СССР, член Совета главных конструкторов ракетной и ракетно-космической техники, возглавляемого С. П. Королёвым.
После окончания 9 классов школы в 1926 году, начал работать слесарем, а затем файнмехаником, в ЦАГИ. В 1930 году по направлению А. Н. Туполева, поступает в МВТУ им. Баумана. Дипломным проектом стал прибор «Жирограф», предназначенный для записи результатов измерений угловых скоростей самолета. Окончил МВТУ им. Баумана в 1935 году, работал в ЦАГИ, Лётно-испытательном институте.
В 1943 году защитил кандидатскую диссертацию. В 1944 году работает в отделе управления НИИ-1 по ракетной технике. В 1944—1946 года изучал по обломкам немецкую баллистическую ракету Фау-2.
По предложению С. П. Королёва Пилюгин в 1946 году становится главным конструктором автономных систем управления в НИИ-88 и членом Совета главных конструкторов. Вёл разработку автоматизированной системы управления баллистической ракеты Р-1.
Разрабатывал системы управления ракет Р-1, Р-7 (выводившей на орбиту Спутник-1 и первого космонавта), руководил разработкой систем управления многих межпланетных станций, ракет «Протон», советского космического челнока «Буран».
Конкурентом Пилюгина был Виктор Иванович Кузнецов, также входивший в совет главных конструкторов и занимающийся гироскопами и системами управления.
Был депутатом Верховного Совета СССР 7—10-го созывов.
Николай Алексеевич умер 2 августа 1982 в Москве, похоронен на Новодевичьем кладбище.