Родился в семье крестьянина. Русский. С 1931 года остался без родителей, воспитывался у родственников. Окончил начальную школу в своей деревне и школу-семилетку в селе Бурмакино. В 1936 году поступил в Рыбинский техникум водного транспорта. Во время учебы занимался в Рыбинском аэроклубе Осоавиахима. В 1939 году судоводительское отделение из Рыбинска перевели в Горьковское речное училище, но Александр решил не уезжать, чтобы закончить учебу в аэроклубе.

В 1940 году призван в Красную Армию и направлен в летное училище. В июне 1941 года, накануне войны, окончил Балашовскую военно-авиационную школу пилотов. Затем в 1-й запасной авиационной бригаде прошел переподготовку на самолет-штурмовик Ил-2.

Боевой путь летчика-штурмовика Рытова начался в марте 1942 года на Северо-Западном фронте в составе 586-го штурмового авиационного полка. За отличные действия при освобождении городов Великие Луки и Белый был награжден орденами Отечественной войны 2-й степени и Красной Звезды. Вскоре его выдвинули на должность командира звена. В июне 1943 года лейтенанта Рытова был назначен заместителем командира эскадрильи 946-го штурмового авиаполка. В составе этого полка прошел весь боевой путь. Член ВКП (б) с 1943 года. В боях за ликвидацию фашистских плацдармов на Спас-Деменском, Рославском и Ельнянском направлениях капитан Рытов 48 раз водил в бой штурмовики.

23 июля 1944 года восьмерка штурмовиков, ведомая Рытовым, на перегоне село Буки — станция Теребень обнаружила фашистский бронепоезд. Он сдерживал продвижение советских частей. 18 минут группа штурмовала бронепоезд противотанковыми и фугасными бомбами, пушечно-пулеметным огнем и реактивными снарядами и вывела его из строя. Развивая успех летчиков, наши войска овладели рядом населенных пунктов, в том числе станцией Теребень. Капитан Рытов за этот боевой вылет был награжден орденом Красного Знамени.

С июля по август 1944 года, сражаясь на 1-м Белорусском фронте, эскадрилья капитана Рытова совершила 63 боевых вылета, не потеряла ни одного летчика, ни одного самолета. Грудь комэска украсил орден Александра Невского.

Действуя в составе 2-го Белорусского фронта, эскадрилья совершила еще 263 успешных боевых вылета. В самые ответственные полеты командир возглавлял эскадрилью. Отлично «поработал» Александр при прорыве фашистской обороны на Бобруйском направлении, при взятии города и крепости Осовец. Наградой за это были благодарность Верховного Главнокомандования и второй орден Красного Знамени.

Осенью 1944 года, в боях за освобождение Польши, отважный летчик-штурмовик совершал в день по нескольку боевых вылетов на штурмовку и бомбардировку живой силы и техники противника. 10 октября 1944 года капитан Рытов с восьмеркой штурмовиков нанес удар по фашистским артиллерийским позициям в районе высоты 132 западнее Рожан и Паулиново. Летчики содействовали расширению плацдарма южнее Рожан. Советская пехота при поддержке с воздуха заняла село Паулиново. Во второй половине дня комэск снова повел свою восьмерку против фашистской танковой колонны, двигавшейся по шоссе Остроленки — Варшава. Обнаружив врага, он первым устремился в атаку. Пять успешных атак совершили летчики, шестой заход был последним для капитана Рытова. Разорвавшийся в кабине снаряд оборвал жизнь летчика… Это был его 93 боевой вылет.

27 октября 1944 года при занятии села Тлущ советские бойцы нашли обломки Ил-2. Вместе с Рытовым погиб воздушный стрелок Колесников. С воинскими почестями экипаж похоронили в деревне Лясы на холмистом берегу реки Нарев. В марте 1950 года прах Александра Рытова был перенесен на кладбище советских воинов в город Макув-Мазовецкий.

Указом Президиума Верховного Совета СССР от 23 февраля 1945 года за образцовое выполнение боевых заданий командования на фронте борьбы с немецко-фашистским захватчиками и проявленные при этом мужество и героизм капитану Рытову Александру Ивановичупосмертно присвоено звание Героя Советского Союза.

Награжден орденом Ленина, двумя орденами Красного Знамени, орденами Александра Невского, Отечественной войны 2-й степени, Красной Звезды, медалями.

Приказом Министра Обороны от 4 ноября 1982 года навечно зачислен в списки воинской части. Его именем названо грузовое судно-катамаран Волжского речного пароходства. В деревне Макеевское Ярославского района установлен бюст Героя. Его имя высечено на памятнике на Аллее Славы в Рыбинске.