Tėvas Antanas Biržiška, broliai Mykolas Biržiška ir Vaclovas Biržiška.
Kilęs iš žemaičių bajorų Biržiškų giminės. 1895 m. įstojo į Šiaulių gimnazijos parengiamąją klasę. 1903 m. dalyvavo slaptame moksleivių būrelyje, kur lietuvių kalbos mokė į Šiaulius išsiųstas Jonas Jablonskis. 1904 m. baigė Šiaulių gimnaziją (gavo aukso medalį, bet jį pardavė Peterburge), įstojo į universiteto Matematikos ir gamtos fakultetą. Išlaikęs konkursinius egzaminus, universitete liko laisvu klausytoju, o studijavo Peterburgo technologijos institute.
Dalyvavo slaptos lietuvių studentų draugijos veikloje, kurį laiką buvo jos iždininkas. Dalyvavo kultūrinėje veikloje, dainavo chore ir šoko Miko Petrausko operetėje „Kaminkrėtys ir malūnininkas“. 1906 m. lapkričio mėn. po kratos bute buvo sulaikytas, bet, neįrodžius kaltės, paleistas. 1905–1906 m. dirbo Šiauliuose, vadovavo vietinei Lietuvos socialdemokratų partijos organizacijai, savo bute laikė ginklų sandėlį ir spaustuvę, spausdino atsišaukimus.
Grįžęs į Peterburgą vertėsi matematikos pamokomis, dirbo Peterburgo gimnazijoje, elektros stotyje, vadovavo tramvajaus tilto statybos darbams, dirbo meistru A. Baranovskio patrankų šaudmenų įmonėje. 1914 m. baigė Peterburgo technologijos institutą. Prasidėjus karui, mobilizuotas, bet paliktas įmonės direktoriumi. 1917–1918 m. apie 50 kartų kratytas, kelis kartus čekistų areštuotas ir, tik įmonės darbininkams reikalaujant, paleidžiamas.
1920 m. rugsėjo 30 d. grįžo į Lietuvą kaip įkaitas, iškeistas į bolševiką iš Panevėžio kalėjimo. Vilniuje dirbo lietuvių gimnazijos mokytoju, dėstė Lietuvos mokslų draugijos aukštuosiuose kursuose, bendradarbiavo spaudoje. 1920 m. išrinktas Vilniaus lietuvių komiteto nariu. 1920 m. lapkričio 23 d. lenkų suimtas, kai pabėgo lietuviai belaisviai. 1921 m. suimtas dėl straipsnio laikraštyje „Glos Litwy“, bet 1921 m. rugpjūčio 23 d. amnestuotas. 1922 m. sausio 20 d. kartu su broliu Mykolu lenkų apkaltintas tėvynės išdavimu bet, Tautų Sąjungai pareikalavus, vasario 6 d. su kitais 32 lietuviais ir gudais išvežtas į Nepriklausomą Lietuvą.
1922 m. kovo mėn. paskirtas Krašto apsaugos ministerijos artilerijos tiekimo viršininko pavaduotoju, 1922–1926 m. šios tarnybos viršininkas. Kartu 1922–1924 m. „Aušros“ gimnazijos, 1923 m. Suaugusiųjų gimnazijos, 1923–1925 m. Aukštųjų karininkų kursų dėstytojas, 1922–1939 m. Vytauto Didžiojo universiteto docentas, 1928 m. profesorius. Dėstė 15 aukštosios matematikos disciplinų. 1931–1939 m. Matematinės analizės katedros vedėjas. 1940–1944 m. Vilniaus universiteto profesorius. 1934–1944 m. redagavo Lietuviškosios enciklopedijos matematikos skyrių.
1944 m. liepos mėn. pasitraukė į Vokietiją. 1946–1949 m. Pabaltijo universiteto Hamburge ir Pineberge profesorius, Matematikos ir gamtos fakulteto prodekanas. 1950 m. emigravo į JAV.
Svarbiausi veikalai: „Įvadas analizin“ (1927), „Integralinio skaičiavimo pagrindai“ (2 d. 1928), „Matematiškosios tikimybių teorijos pagrindai“ (1930). Parašė atsiminimų knygą „Neužgyjančios žaizdos 1920–1922“ (1936, 1966 pavadinimas „Dėl mūsų sostinės“).
Emigracijoje su broliu Mykolu baigė rengti spaudai brolio Vaclovo „Aleksandryną“ (3 t. 1960–1965 Čikaga, 1990 Vilnius).