В сентябре 1940 года был призван в Советскую Армию Нерльским райвоенкоматом Калининской области. Проходил службу с сентября 1940 года по апрель 1941 года в 1-ом Отдельном дивизионе связи, 6-го казачьего корпуса в г. Ломжа Белорусской СССР. 

С апреля 1941 года по ноябрь 1941 года учился в Сталинградском военном училище связи, окончил ускоренный курс, было присвоено воинское звание ЛЕЙТЕНАНТ. 

Назначен на должность командира взвода 1006 отдельной телеграфно-строительной роты, с этой ротой в конце ноября 1941 года выехал на Юго-Западный фронт в состав 57 армии, где пробыл до апреля 1942 года.

В марте-апреле 1942 года 1006 ОТСР была переведена в 19 армию Южного фронта, где прослужил до июля 1942 года.

После этого 1006 ОТСР  была переведена в состав 12 армии Северо-Кавказского фронта, где прослужил до мая 1943 года.

С мая по октябрь 1943 года, находясь в 1006 ОТСР занимался строительством постоянных линий связи в районе городов Грозный, Самтредия, Зугдиди с оборонительной целью.

Октябрь 1943 года 1006 ОТСР была переведена на Западный фронт и влилась в состав 859 отдельного линейно-эксплуатационного батальона связи. В должности командира взвода.

Май-июнь 1945 года 859 ОЛЭБС был переброшен в Монголию Забайкальский фронт. В должности командира роты. Участвовал в боях с Германией и Японией.

Июль 1946 года 859 ОЛЭБС был расформирован и Малышев Анатолий был переведен в город Ворошилов и назначен на должность начальника связи батальона в 8 гвардейском мотострелковом полку 3 гвардейской Сталинградской механизированной дивизии, где и прослужил до ноября 1951 года.

В 1951 году учился на курсах усовершенствования офицерского состава войск связи в г.Биробиджан.

Ноябрь 1951 года назначен на должность командира учебной роты 717 ОБС 277 стрелковой дивизии.

В 1956 году по состоянию здоровья, демобилизован.