Pedagogas, dailininkas. Baigęs mokyklą Rozalime, 1925–1927 m. mokėsi Panevėžio mokytojų seminarijoje, 1927–1929 m. – Kauno meno mokykloje pas Antaną Žmuidzinavičių.

Nuo 1930 m. jis dirbo mokytoju pradžios mokyklose: 1930–1932 m. – Kirdeikiuose (Utenos r.), 1932–1934 m. – Leliūnuose (Utenos r.), visur subūrė moksleivių piešimo ir skulptūros būrelius, jiems vadovavo. 1933 m. Utenoje B. Plungė įsteigė pirmąjį šiame mieste styginį ansamblį.

Utenoje B. Plungė sukūrė vienintelį savo skulptūrinį kūrinį – Jono Basanavičiaus paminklą (1934 m., autoriaus atnaujintas 1988 m., restauruotas apie 2000 m.). 

1934–1936 m. jis dirbo Debeikių (Anykščių r.) pradžios mokyklos mokytoju, 1936–1941 m. buvo Andrioniškio (Anykščių r.) pradžios mokyklos mokytojas ir šios mokyklos vedėjas.

Jis įkūrė šios mokyklos muziejėlį, rengė paskaitas ir praktinius kursus vietiniams žmonėms, buvo aktyvus visuomenininkas. B. Plungė buvo šaulys, vadovavo Lietuvos šaulių sąjungos Andrioniškio šaulių būriui.

1941 m. birželio 14 d. B. Plungė ir jo šeima buvo ištremti į Sibirą. Atskirtas nuo žmonos ir vaikų, 1941–1950 m. jis buvo laikomas Rešiotų lageryje (Krasnojarsko kraštas, Sibiras, Rusija). 1950 m. išleistas iš lagerio, jis gyveno tremtyje Kazačinske (Krasnojarsko kraštas, Rusija), dirbo mokytoju.

1963 m. grįžęs į Lietuvą, jis apsigyveno Vilniuje, 1963–1968 m. dirbo mokytoju, 1968–1972 m. buvo Kultūros ministerijos fotografas.

B. Plungė buvo Liaudies meno draugijos narys, meno saviveiklos žymūnas. Jis sukūrė per 500 tapybos darbų, apie 200 akvarelių, beveik 300 piešinių, dalyvavo daugelyje parodų.