В 1941 году, когда началась война, Алексей, будучи  17-летним   юношей, на второй день войны подает документы в Нижнетагильский военкомат, но был призван только в 1942 году.  Сначала его направили в школу сержантов, после учебы руководство школы намеревались оставить служить при школе, но Алексей - молодой, решительный меняется документами с другим солдатом и под чужим именем отправляется на фронт. Так он становится разведчиком 1-ой отдельной Гвардейской разведывательной роты.

Воевал на передовой линии фронта в разведке. За время службы неоднократно участвовал в ближних и дальних разведывательных операциях. Неоднократно ходил в разведку «за языком» (т.е. искали немецкого солдата, брали в плен и узнавали у него расположение войск противника). В то время никто не задумывался об опасности для жизни, стараясь жить каждый день и каждую минуту.

В одной из разведывательных операций 26 июня 1944 года в районе д.  Выдрица, Белоруссии Алексей в составе группы разведчиков из пяти человек столкнулись с группой немцев, которые пытались огнем с фланга внести расстройство в ряды наших наступающих частей. Группа, действуя смело и решительно, атаковала немцев и в короткой, но решительной схватке уничтожила десять немецких солдат и четырех взяла в плен. Рядовой Хромов Алексей лично уничтожил четырех солдат, а также способствовал захвату пленных.

За этот подвиг был награжден Орденом Славы III степени.

В этом же бою получил ранение в правое предплечие разрывной пулей и контузию. В тяжелом состоянии был доставлен в госпиталь с угрозой ампутации руки, однако врачи приложили огромные усилия и руку удалось спасти. После лечения в госпитале на фронт больше не возвращался.

О его мужественном боевом пути говорят многочисленные награды. Но самой дорогой наградой он считал знак «Отличный разведчик».