Kunigas, monsinjoras. 
Buvo vyriausias sūnus daugiavaikėje Žemaitijos ūkininkų šeimoje.
1945 m. baigė Raseinių gimnaziją, o 1949 m. Kauno kunigų seminariją (kunigu įšventintas 1948 m. spalio 31 d., nes seminarijos vadovybė didžiųjų trėmimų į Sibirą metais skubėjo įšventinti seminariją baigiančius klierikus).
1949 m. kovo 25 d. buvo ištremtas į Sibirą, į Olchovo salą Baikalo ežere. Ten dirbo žuvies apdirbimo pramonėje. Pasitaikius progai dar tais pačiais metais persikėlė į Taišetą, kur gyveno irgi 1949-aisiais ištremta Bitvinskų šeima: tėvai, trys broliai ir sesuo. Brolis partizanas Vytautas jau buvo žuvęs. A. Bitvinskas dirbo miške ir statybose, slapta vykdė ir kunigo misiją – krikštijo, aukojo šv. Mišias, klausė išpažinčių.
1957 m. žiemą kun. A. Bitvinskas buvo paleistas iš tremties. Grįžęs į Lietuvą buvo paskirtas vikaru į Šiaulių katedrą – Šv. Petro ir Povilo bažnyčią. Šiauliuose dirbo dešimt metų. Vėliau buvo kilnojamas iš parapijos į parapiją: 1967–1969 m. – Šventybrasčio klebonas (Kėdainių rajone), kartu aptarnavęs ir Apytalaukės bažnytėlę.
1975 m. dirbo Kulautuvoje, vėliau Kaune – bažnytinės vyresnybės 1979 m. rugpjūčio 6 d. jis paskirtas Kauno arkivyskupijos kurijos kancleriu ir Šančių Švč. Jėzaus Širdies bažnyčios klebonu. Kaip kancleris buvo itin tvarkingas ir skrupulingai sutvarkė kurijos archyvą. 1986 m. popiežius Jonas Paulius II jam suteikė monsinjoro titulą. 1987 m. buvo atleistas iš Šančių parapijos klebono pareigų, bet pasiliko Kurijos kancleriu. Dar kunigavo Vytauto bažnyčioje, vėliau Radviliškyje. 1992 m. rugsėjo 14 d. buvo perkeltas kaip altarista į Šiaulių Šv. Jurgio bažnyčią. Čia praleido ilgiausią savo kunigystės laikotarpį – keturiolika metų (iki mirties 2006 m. rugpjūčio 4 d.).
Šiauliuose jis daug rašė. „Aušros“ muziejuje yra likę jo nespausdintų rankraščių, o ir išspausdinta ne tiek jau mažai: „Pieta teologiniu požiūriu“ (leidinyje „Pieta lietuvių liaudies dailėje“, 1995), „Kryžius“ (leidinyje „Mediniai ir metaliniai kryžiai“, 1996), reikšmingi jo straipsniai „Marija – Kristaus ir mūsų Motina“, „Religinė knyga – lietuviškos kultūros paveldo dalis“. Jis pradėjo tyrinėti ir rašyti Šiaulių Šv. Jurgio bažnyčios istoriją. 2003 m. leidykla „Šiaurės Lietuva“ išleido jo knygelę „Šviesos kelionės sutemose“ apie 1980–1990 metų vyskupų vizitacijas įvairiose Lietuvos bažnyčiose.