Аркадий Евсеевич родился 14 июля 1905 года в Екатеринославе (с 1926 года – Днепропетровск, с 2016 года по настоящее время – город Днепр) в семье служащего. Отец умер в 1913 году, когда Аркадию было 8 лет.
С 1914 по 1919 годы он учился в Екатеринославском коммерческом училище. В 1920 году пошёл работать. В 1930 году Аркадий Евсеевич окончил Горный институт и получил специальность инженера-механика. Обучение в институте совмещал с работой.
В 1922 году вступил в комсомол, в 1930 году был принят в кандидаты, а в 1932 году – в члены ВКП (б).
В 1931 году А. Е. Ямпольский был назначен начальником специального цеха боеприпасов Днепропетровского завода имени Ленина. Проявил себя прекрасным специалистом и организатором, наладил массовый выпуск новых видов боеприпасов для Красной Армии.
В 1937 году стал директором Днепропетровского завода им. Ленина. В период его работы завод был награждён орденом Ленина. За организацию стахановской работы и выполнение специальных заданий Правительства А. Е. Ямпольский в 1939 году награждён орденом Ленина. В этом же году он стал директором металлургического завода им. Дзержинского.
В 1940-м по специальному решению СНК и ВКП(б) Ямпольский А. Е. направлен «на прорывной завод, много лет не выполняющий программу – Нижнеднепровский трубопрокатный завод им. К. Либкнехта», который он сумел вывести в передовые. В начале Великой Отечественной войны по заданию Наркомата Черной Металлургии и Военного командования возглавлял эвакуацию оборудования металлургических заводов Левобережья Днепропетровска.
С 29 сентября 1941 года по 23 февраля 1946 года работал директором Государственного завода № 705 (Синарский трубный завод). Под его руководством на новом месте из эвакуированного оборудования нескольких предприятий создан новый завод, на котором было организовано производство цельнокатаных и цельнотянутых труб для боевого самолётостроения, танкостроения и вооружения, стальной ленты для боеприпасов, а также крупного производства для артиллерийских боезапасов и деталей стрелкового вооружения.
Указом Президиума Верховного Совета СССР от 23.04.1943 Г. Директор завода № 705 (Синарского трубного завода) А. Е. Ямпольский награждён орденом Трудового Красного Знамени.
В мае 1946 года Ямпольский вернулся на родину и был направлен на восстановление полностью разрушенного фашистами Краматорского металлургического завода в Донбассе. После восстановления Краматорского завода Ямпольского назначили заместителем директора по капстроительству и начальником строительства нового металлургического завода в Азербайджане в городе Сумгаите. Аркадий Евсеевич руководил строительством до ввода завода в эксплуатацию. На заводе были построены мартеновские печи, прокатные и трубопрокатные цехи, вспомогательные цехи и другие сооружения.
С января 1963 года по декабрь 1965 года Аркадий Евсеевич работал начальником технического отдела управления металлургической и горнорудной промышленности Совнархоза Азербайджанской ССР, а после ликвидации Совнархозов – начальником производственного отдела объединения Совета Министров Азербайджана и Цветной металлургии в Баку.
С августа 1966 года жил в Риге.