Яков Павлович Ермолаев одним из первых был призван на войну. Прошёл боевой путь от Москвы до Кёнигсберга. Он был командиром орудия Дальнобойной Гаубичной Артиллерии. С первых же дней боёв, как наводчик, показал образцы мужества и геройства в деле уничтожения врага. Участник обороны города Москвы. Участвовал в освобождение города Яхрома в 1941 году. Благодаря интенсивно у огню его артиллерии противник был вынужден отступить (выписка из наградного листа №316 от 30.01.1942 года). Его боевой путь пролёг: город Москва - город Клин - Старая Русса - Великие Луки - город Шауляй - город Лиепая - город Рига - город Кёнигсберг. Он участник по уничтожению группировки немецких войск на Курлянском полуострове. За боевые заслуги награждён орденом Отечественной войны второй степени, орденом "Красной звезды", медалью "За отвагу", "За освобождение г. Риги", "За взятие г. Кёнигсберга", медалью "За победу над Германией" и многими Юбилейными медалями.