Родился 18 февраля 1953 года в городе Каменец-Подольский Каменец-Подольской (ныне Хмельницкой) области Украинской ССР.

Учился в музыкальной школе по классу скрипки. В 1970 году будущий певец и композитор поступил в Московское высшее техническое училище имени Баумана на специальность «Оборудование и технология сварочного производства» (кафедра АМ-7), которое окончил в 1976 году. Позже окончил Московское областное музыкальное (Царицынское) училище по классу бас-гитары.

С 1972 по 1978 год играл в джаз-ансамбле под управлением Игоря Брюта[2], ансамбле «Магистраль» под управлением Юрия Антонова, ансамбле под управлением Стаса Намина, оркестре Леонида Утёсова и группе «Джаз-Атака».

С 1978 по 1983 Укупник работал в Камерном еврейском музыкальном театре, играл на бас-гитаре, практиковался там как актёр. Пел на идиш в спектакле-мюзикле «Чёрная уздечка для белой кобылицы» Юрия Шерлинга, там же пела Лариса Долина в дуэте с чернокожим певцом Вейландом Родом.

В 1983 году Укупник начал композиторскую деятельность песней «Рябиновые бусы» для Ирины Понаровской. Известность ему принесла работа с Ларисой Долиной, Владимиром Пресняковым (младшим), Кристиной Орбакайте. Писал песни для Аллы Пугачёвой, Натальи Ветлицкой, Татьяны Овсиенко. Сотрудничал с Владом Сташевским, Вадимом Казаченко, Любовью Успенской, Михаилом Шуфутинским.

В 1982 году начал карьеру певца, но стал известен только в 1990-е годы. Постоянный участник программы «Рождественские встречи» Аллы Пугачёвой, впервые появился в ней в 1991 году с песней «Фиеста». Пугачёва попросила парикмахера завить ему волосы, посоветовала Аркадию надеть очки, то есть выступила в роли имиджмейкера. Среди хитов в собственном исполнении: «Я на тебе никогда не женюсь», «Маргаритка», «Петруха», «Сим-Сим, откройся», «Баллада о Штирлице», «Грусть», «Маэстро джаз» и др.

Продюсировал группу «Кар-Мэн».

В 2003 году в мюзикле «Чикаго» сыграл роль Эймоса Харта. В том же году в шеститысячном зале Кремлёвского дворца состоялся гала-концерт «Неужели пятьдесят?», посвящённый 50-летию Аркадия Укупника.

Аркадий Укупник имеет собственную студию звукозаписи «Олимпик», которую он создал вместе с несколькими коллегами по цеху.