В 1920 г. ушёл добровольцем в РККА.

С мая 1920 г. — курьер амбулатории Заволжского окружного Военно-санитарного управления в Самаре.
В январе 1921 г. направлен учиться на 18-е кавалерийские курсы в Самаре, однако заболел малярией и из-за этого в декабре 1921 г. был демобилизован из армии.
С января 1922 г. — санитар эвакопункта,
С июня по ноябрь 1922 г. — трубач 4-го отдельного дивизиона ГПУ в Самаре.
С декабря 1922 г. — ремонтный рабочий 2-го участка службы пути Самаро-Златоустовской ж. -д.
В октябре 1924 г. по путёвке губкома ВКП(б) А. С. Панюшкин поступил в Борисоглебско-Ленинградскую кавалерийскую школу РККА.
Во время учёбы в июне 1927 г. вступил в ВКП(б).
По окончании школы в сентябре 1927 г. был направлен на службу в пограничные войска ОГПУ на Дальний Восток.
Служил в 59-м Приморском погранотряде:
С октября 1927 г. — помощником начальника заставы.

С ноября 1930 года — адъютант, инструктор боевой подготовки, с марта 1932 по апрель 1933 года — командир сабельного дивизиона маневренной группы. Затем был переведён в 58-й Гродековский погранотряд: с июня 1933 года — командир сабельного дивизиона, с сентября 1934 года — комендант Барабаш-Левадовского погранучастка.

Окончил Специальный факультет Военной академии РККА имени М. В. Фрунзе, где учился с мая 1935 по август 1938 года, по окончании которого был направлен на работу в органы НКВД СССР. Первое воинское звание — капитан, присвоено 14 марта 1936 года.

С августа 1938 года — помощник начальника отделения 5-го отдела ГУГБ НКВД, с октября 1938 года — исполняющий обязанности начальника, а с 23 декабря 1938 года — начальник 3-го специального отдела НКВД СССР. Принимал участие в аресте Н. И. Ежова.

С 10 июля 1939 года был направлен в Китай уполномоченным СНК СССР по реализации торгового соглашения. В том же месяце он назначается полпредом СССР в Китае, одновременно являясь главным резидентом в этой стране, под началом которого действовало до 12 резидентур.

В этот период советской разведкой был завербован сотрудник Генштаба китайской армии, который содействовал приобретению ценных источников в китайской разведке, ЦИК Гоминьдана и других объектах проникновения. Смог установить доверительные отношения с рядом лиц из окружения Чан Кайши, выступавших за укрепление дружбы с СССР и продолжение сопротивления японской агрессии. При его непосредственном участии удалось разработать и осуществить план обороны г. Чанша, нанести японцам серьёзное поражение.

Главный резидент полно и своевременно информировал Центр об основных проблемах внешней и внутренней политики Китая, о позиции Чан Кайши и его окружения в отношений СССР, Японии, США, Великобритании, Франции и, соответственно, о деятельности представителей этих стран в Китае; о борьбе между КПК и Гоминьданом, а также внутри самого Гоминьдана. За год с небольшим до начала Великой Отечественной войны резидентура направила в Москву сообщение о подготовке Германией нападения на СССР.

В мае 1941 г. в Центр поступил оперативный план германского Верховного командования о главных направлениях продвижения немецких войск в войне против СССР, полученный агентурным путём у германского военного атташе. Была успешно выполнена и главная задача советской разведки в Китае — не просмотреть возможное нападение Японии на Советский Союз.

После возвращения из Китая 5 сентября 1944 г. А. С. Панюшкина переводят на работу в аппарат ЦК ВКП(б) на должность 1-го заместителя заведующего отделом международной информации ЦК ВКП(б).

С 30 мая 1947 г. он — Главный секретарь КИ при СМ СССР. С 25 октября 1947 г. — Чрезвычайный и полномочный посол СССР в США и одновременно главный резидент советской разведки[1]. В 1948—1953 гг. являлся также представителем СССР в Дальневосточной комиссии.