Lietuvos visuomenės ir valstybės veikėjas, karininkas, teisininkas. 1909 m. eksternu baigė Aleksandro gimnaziją Rygoje. 1908–1909 m. savanoriu tarnaudamas Rusijos kariuomenėje išlaikė egzaminus atsargos praporščiko laipsniui gauti. Studijavo teisę Tartu universitete. 1914 m. mobilizuotas į Rusijos kariuomenę, Rumunijos fronto VI armijos lieuvių suvažiavime išrinktas armijos lietuvių komisaro pavaduotoju. 1918 m. rudenį baigė Kijevo universitetą. 1919 m. savanoriu stojo į Lietuvos kariuomenę, paskirtas Krašto apsaugos ministerijos Juridinio skyriaus viršininku. 1919 m. ministerijos valdytojas (ministras), 1919–1920 m. krašto apsaugos ministro padėjėjas (pavaduotojas), 1919 m., 1920 m. krašto apsaugos ministras.

Atstovavo Lietuvai Baltijos valstybių vyriausiųjų kariuomenės vadų konferencijoje (1920), buvo komisijos sienai su Latvija nustatyti (1921) narys. 1920–1922 m. Vietinės kariuomenės brigados vadas. 1922 m. pasitraukęs į atsargą, ėmėsi advokato profesijos, buvo Finansų ministerijos juriskonsultas. Vienas Lietuvių tautininkų sąjungos kūrėjų (1924), jos veikėjas. 1923 m. buvo paskirtas aukštojo valstybės įgaliotinio Klaipėdos krašte A. Smetonos sekretoriumi, artimiau su juo susipažino. Todėl, nors A. Merkys nebuvo 1926 m. gruodžio 17 d. perversmo tiesioginis dalyvis, apie ruošimąsi nuversti M. Sleževičiaus Vyriausybę žinojo. Perversmininkų vadovybė siūlė A. Merkį skirti ministru pirmininku, tačiau šiai kandidatūrai Prezidentas K. Grinius griežtai pasipriešino. Premjero postas buvo atiduotas A. Voldemarui, o A. Merkys užėmė Krašto apsaugos ministro postą. Kilus nesutarimams su Vyriausybės vadovu, 1927 m. A. Merkys buvo priverstas atsistatydinti. 1927–1932 m. Klaipėdos krašto gubernatorius. 1933–1939 m. Kauno miesto burmistras, 1934–1939 m. Lietuvos miestų sąjungos pirmininkas. 1936–1940 m. Seimo atstovas. 1936–1939 m. Atsargos karininkų sąjungos pirmininkas. 1939 m. Lietuvai atgavus Vilniaus kraštą, A. Merkiui buvo patikėtos vyriausybės įgaliotinio Vilniuje pareigos. A. Merkiui pavyko sušvelninti įtampą tarp lenkų ir lietuvių, tačiau šias pareigas jis ėjo neilgai. 1939 m. lapkritį A. Merkys buvo paskirtas ministru pirmininku. Jo vadovaujamam ministrų kabinetui teko vesti derybas su SSRS. 1940 m. birželio 12 d., Maskvai paskelbus Lietuvai ultimatumą, A. Merkys siūlė jį priimti ir pareiškė atsistatydinąs. Tačiau nesusitariant su SSRS dėl naujos vyriausybės vadovo kandidatūros, jam teko dar keletą dienų vadovauti ministrų kabinetui, o A. Smetonai išvykus iš Lietuvos, birželio 15–17 d. ėjo ir Prezidento pareigas. 1940 m. birželio 17 d. A. Merkys sutiko su kitais SSRS reikalavimais ir paskyrė ministru pirmininku J. Paleckį, o pats atsistatydino. 1940 m. vasarą du kartus nesėkmingai bandė išvykti iš Lietuvos, 1940 m. liepos 17 d. su šeima ištremtas į Saratovą, apgyvendintas sovietų saugumo priežiūroje. 1941 m. suimtas, kalintas Saratovo, Kirovo, Ivanovo, Maskvos Butyrkų ir Vladimiro kalėjimuose. 1954 m. paleistas iš Vladimiro kalėjimo be teisės grįžti į Lietuvą. Mirė Melenkų invalidų namuose. Apdovanotas Vyčio Kryžiaus 5 laipsnio (1927), Gedimino 2 (1928) ir 1 laipsnio (1938) ordinais, kelių užsienio valstybių aukštais ir aukščiausiais apdovanojimais.