Gimė 1894 m. sausio 2 d. Lyglaukių kaime (Biržų valsčius). Mokėsi Bauskės keturių klasių mokykloje, Dotnuvos agronomijos mokykloje. Įstojo į Žemės ūkio akademiją Maskvoje, tačiau prasidėjus Pirmąjam pasauliniam karui buvo mobilizuotas į carinės Rusijos kariuomenę ir nusiųstas į Peterburgo karo mokyklą. 1918 m. grįžo į Lietuvą, iki 1923 m. dirbo Žemės ūkio ministerijoje.

Buvo vienas iš „Mūzos“ draugijų steigėjas. Rašė finansų ir kooperacijos klausimais į periodinius leidinius. Parašė dramos kūrinių.

1922 m. išrinktas į Seimą. Nuo 1922 m. lapkričio 13 d. iki 1923 m. kovo 13 d. – I Seimo narys. Priklausė Lietuvos valstiečių sąjungos frakcijai įėjusiai į LSDP bloką, nuo 1922 m. gruodžio mėnesį įkūrus Lietuvos valstiečių liaudininkų sąjungos frakciją, priklausė šiai frakcijai. 1924 m. gruodžio mėnesį išrinktas Lietuvos valstiečių liaudininkų sąjungos Centro komiteto nariu. 1923–1926 m. – Kooperatyvų sąjungos vienas iš vadovų, „Lietūkio“ direktorius ir valdybos narys. 1927–1940 m. – Žemės banko direktorius, Žemės ūkio rūmų valdybos viceprimininkas, „Lietūkio“ Pieno centro bei Kooperatyvų sąjungos valdybų narys, Ekonominių studijų draugijos narys, Klaipėdos ir Šventosios uostų statybos finansavimo komisijos pirmininkas. 1923 m., 1930–1931 – Lietuvos agronomų sąjungos valdybos vicepirmininkas, ne vienerius metus šios draugijos narys ir iždininkas.

Petras Kregždė buvo Evangelikų liuteronų sinodo kuratorius, tris kartus buvo išrinktas Evangelikų liuteronų sinodo pirmininku. Rėmė bažnytinę spaudą, padėjo statyti naują Evangelikų liuteronų bažnyčią Kaune.

Pirmosios sovietų okupacijos metais dirbo Repatriacijos komisijoje, Vyr. planavimo komisijoje, nuo 1941 m. balandžio 30 d. – Valstybinėje plano komisijoje. Nacių okupacijos metais 1941–1942 m. – Žemės ūkio rūmų vicepirmininkas ir direktorius, 1941–1944 m. „Gemeinschaft“ banko Kaune direktorius.

1944 m. išvyko į Švediją, dirbo fabrike, atstovavo lietuviams pabėgėlių stovyklose. Kartu su kitais reformatų veikėjais įkūrė Lietuvių draugiją Eskilstunoje, buvo šios draugijos pirmininkas.

1947 m. išvyko į Niujorką (JAV). Mirė 1947 m. balandžio 22 d. Niujorke (JAV). 2003 m. liepos 2 d. urna su P. Kregždės palaikais perlaidota Lyglaukių kaimo kapinėse (Biržų r. sav.).