В сентябре сорок первого года призван в ряды советской армии. Перед отправкой на фронт успешно прошел обучение на снайпера в городе Новосибирске, а 2 января 1942 года солдат погрузили в эшелон и месяц везли до Тихвина. Служил в войсках НКВД (народного комиссариата внутренних дел). Со своими сослуживцами они проверяли эшелоны, обеспечивали порядок в городах. На Ладожском озере под артиллерийским обстрелом они эвакуировали жителей блокадного Ленинграда. Держали оборону в городе Крестцы, Дно, Порхов.    

В июне 1944 года в составе пятой дивизии войск НКВД командир стрелкового взвода сержант Ермола Николай Моисеевич впервые оказался на территории Прибалтики, здесь ему пришлось задержаться на 5 лет. Литовские города Вильнюс и Шауляй были только что освобождены от фашистов , но война здесь продолжалась, остались группы фашистов, которые не давали покоя мирным жителям. Летом 1948 года Николая Моисеевича направили на Украину, здесь после войны лютовала банда бендеровцев.

Для Николая Моисеевича война закончилась только в феврале 1949. Восемь лет с честью и достоинством он выполнял свой долг перед Родиной, это подтверждают его награды «За отвагу», «За боевые заслуги», «За победу над Германией», а так же правительственная грамота от Литовской Советской социалистической республики «За успешное выполнение специальных заданий правительства»