Боевой путь в Великой Отечественной Войне Гладких Николай Константинович начал 22 июня 1941 года. В составе Юго-Западного фронта, командовал четырьмя батареями 220мм самоходных артиллерийских установок в звании ст. лейтенанта.
В декабре 41-го года переведен под Москву на должность политработника. В составе 1-го Украинского фронта участвовал в обороне Москвы, был контужен, после возвращения из госпиталя участвовал в боях за Сталинград.
После взятия Сталинграда был переведен в Закавказье, преподавал в артиллерийском училище в Тбилиси. В мае 1945 года был командирован в город Дрезден, был его комендантом 4 месяца, окончил войну в звании полковника.
Награждён орденом «Великой Отечественной Войны II степени», медалями «За боевые заслуги», «За оборону Москвы», «За оборону Сталинграда», «За победу над Германией в Великой Отечественной Войне 1941-1945 гг.».