В Красной Армии с ноября 1942 года, призван Новосибирским ГВК. Участник Великой Отечественной войны с 1943 года. Боевое крещение получил в боях на Орловско-Курской дуге. Был трижды ранен.
Командир стрелкового отделения мотострелкового батальона младший сержант Александр Анцупов 22 сентября 1943 года первым переправился через реку Днепр на подручных средствах и повёл своё отделение в атаку. В бою за расширение плацдарма его отделение участвовало в освобождении села Зарубенцы Каневского района Черкасской области Украины. Лично уничтожил несколько гитлеровцев.
После войны А.Я. Анцупов был демобилизован из Вооруженных Сил СССР. Член ВКП(б)/КПСС с 1950 года. Член КПРФ с 1998 года
 Жил и работал в родном селе, а также других сельских районах области. Александр Яковлевич проработал в системе потребительской кооперации председателем правления Верх-Карасукского рабкоопа двадцать восемь лет (1954—1981).Занимался активно общественной работой.
В 2010 году Анцупов был участником парада в Москве, посвященного 65-летию Победы в Великой Отечественной войне.
7 июля 2019 года Александру Яковлевичу исполнилось 95 лет.  21.08.2019 ушёл из жизни  Александр Яковлевич Анцупов последний в Новосибирской области Герой Советского Союза. Искренне соболезнуем семье и близким Героя.