5 апреля 1942 года Анатолий был призван в армию, где получил направление в московскую школу подготовки снайперов-инструкторов, после чего получил распределние в 39-й гвардейский стрелковый полк  13-й гвардейской стрелковой ордена Ленина дивизии генерала Александра Родимцева, которая в сентябре 1942 года положила начало коренного перелома в Сталинградской битве. За время уличных боев с 21 сентября по 10 октября 1942 года снайпер  уничтожил тридцать солдат и одного офицера противника, за что был представлен к ордену Красного Знамени, который получил в ноябре 1942 года. На этот момент на его счету было 55 убитых солдат и офицеров противника. За проявленный героизм и высокое воинское искусство, приведшее к победе в битве за Сталинград, Анатолий Чехов, в числе четверых военнослужащих 62-й армии, был представлен к присвоению звания Героя Советского Союза, однако самолёт с представлениями к награде и званиям был сбит и до Москвы не долетел.

После Сталинграда Анатолий Чехов принимал участие в боях за Курск, Орёл, Белгород. За период с октября 1942 года по  январь 1943 года на снайперском счету Чехова было 265  уничтоженных солдат и офицеров противника. В 1943 году в боях под Киевом Анатолий получил второе ранение, взрывом ему оторвало стопу ноги . В 1944 году после лечения Чехов был комиссован, решением  (ВТЭК) получил 3-ю группу инвалидности и вернулся в Казань, где работал газосварщиком на местном электромеханическом заводе. 22 года боевые товарищи и сослуживцы Анатолия считали его погибшим, только в 1965 году стало известно что Анатолий Чехов жив, о знаменитом снайпере были сняты документальные фильмы, появились публикации в прессе. Анатолий Иванович умер 6 июня 1967 года в Горьком, куда он приехал в гости к брату. Похоронен Чехов наАрском кладбище в Казани.

Советский снайпер 13-й гвардейской стрелковой дивизии 62-й армии Сталинградского фронта в годы Великой Отечественной войны, кавалер ордена Красного Знамени. На счету Анатолия 265 подтверждённых уничтоженных солдат и офицеров противника.