В апреле 1942 года призван в Красную Армию и направлен для прохождения службы в Забайкальский военный округ. Осенью 1943 года отправлен на действующий советско-германский фронт. С начала 1944 года до самой Победы воевал в составе 120-го стрелкового Полка 69-й стрелковой Дивизии. В полку он служил наводчиком батареи 76 мм пушек. 69-я стрелковая Дивизия в составе 65 Армии принимала участие в боевых операциях на территории Белоруссии, Польши и Германии. 23 июня 1944 года полк вел ожесточенный бой за укрепленную высоту Радин на территории Домановического р-на. За отличие в этом бою красноармеец Шарыгин А.В. получил свою первую награду - медаль "За боевые заслуги".

За доблесть, проявленную в бою на Одере, 69-я дивизия была награждена орденом Кутузова, а ее 120-й стрелковый полк - орденом Красного Знамени. 23 апреля 1945 года за отличие, проявленное в бою за населенный пункт Ной-Розин Штеттинского района, наводчик батареи 76 мм пушек этого полка сержант Шаругин был награжден орденом "Слава III степени". После взятия города Штетин 69-я Дивизия к концу апреля 1945 года вышла на берег Балтийского моря восточнее города Росток. Здесь 120 стрелковый Полк держал оборону одного из аэродромов до окончания войны.