Mokėsi Salų pradžios mokykloje, vėliau Rokiškio gimnazijoje, kurią baigė 1949 m. aukso medaliu. 1949–1950 m. studijavo Vilniaus universiteto Fizikos-matematikos fakultete matematiką ir astronomiją.

1950 m. įstojo į Kauno kunigų seminariją, kurią baigęs 1954 m. rugsėjo 12 d. buvo įšventintas kunigu.

Dirbo šiose parapijose: 1954 10 01 – 1960 07 31 administratoriumi Palūšėje, 1960 08 02 – 1961 04 31 klebonu Dūkšte, nuo 1961 05 02 administratoriumi Dubičiuose, nuo 1968 03 22 vikaru-adjutoriumi Vilniaus Šv. Mikalojaus parapijoje, o nuo 1978 06 06 – šios parapijos klebonu.

Nuo 1980 m. birželio 25 d. ėjo Vilniaus arkivyskupijos kurijos notaro, tribunolo teisėjo, o vėliau oficiolo pareigas.

1980 m. vasario 1 d. paskirtas Šventojo Tėvo rūmų kapelionu (monsinjoru).

1989 m. birželio 14 d. tapo Vilniaus arkivyskupijos kurijos kancleriu.

Pal. Popiežius Jonas Paulius II 1991 m. gegužės 8 d. nominavo tituliniu Sasuros vyskupu ir paskyrė Vilniaus arkivyskupo augziliaru. Vyskupu konsekruotas 1991 m. gegužės 19 d.

1992 m. kovo 4 d. Vilniaus arkivyskupas metropolitas Audrys Juozas Bačkis paskyrė vysk. Juozą Tunaitį Vilniaus arkivyskupo generalvikaru. Šias pareigas ėjo iki 2010 m. kovo 4 d.

Nuo 2010 m. kovo 4 dienos buvo vyskupas emeritas, bet ir toliau ėjo tribunolo oficiolo pareigas.

Vyskupas Juozas Tunaitis mirė ligoninėje 2012 m. birželio 1 d.