Miškininkas, visuomenės veikėjas. Gimė 1895 m. rugsėjo 29 d. Šaltinių k. (Anykščių r.), mirė 1972 m. sausio 18 d.

Tėvai: Juozapas Rimkus (1866–1948) ir Kotryna Nakutytė-Rimkuvienė (1872–1941) – žemdirbiai ūkininkai. Augo keturių vaikų šeimoje su dviem broliais ir seserimi. Broliai Juozas Rimkus (1892–1974) ir Kazys Rimkus (1902–1960), sesuo Marijona Rimkutė-Apeikienė (1893–1953). Pusbrolis (motinos sesers sūnus) Antanas Riauba (1902–apie 1951) – kunigas, tremtinys, miręs tremtyje. Giminaičiai (senelės broliai) Jonas Tumas (1856–1922) – knygnešys, tremtinys, ir Juozas Tumas-Vaižgantas (1869–1933) – kunigas kanauninkas, rašytojas ir visuomenininkas.
Žmona Felicija Cemnolonskaitė-Rimkuvienė (1911–2003). Vaikai: Eglė Rimkutė (g. 1938 m.), Dalia Rimkutė-Fabijonavičienė (g. 1940 m.), Rimantas Rimkus (g. 1946 m.) ir Irena Rimkutė-Noreikienė (g. 1953 m.).
Iki 1923 m. J. Rimkus dirbo tėvų ūkyje, uždarbiavo pas kitus ūkininkus, atliko karinę tarnybą Lietuvos kariuomenėje, buvo demobilizuotas kaip atsargos leitenantas.

1923–1924 m. Panevėžyje baigė miško technikų 8 mėnesių kursus, įgijo miškininko specialybę.

1924–1927 m. dirbo Šimonių (Kupiškio r.) miškų urėdijoje girininku.

1927–1940 ir 1942–1944 m. buvo Utenos miškų urėdijos Anykščių girininkas, dirbo girininkijos centre Pavarių kaime.

Gyvendamas Anykščiuose, atsargos karininkas J. Rimkus buvo aktyvus Lietuvos šaulių sąjungos narys, Anykščių šaulių būrio vadas ir 2-osios šaulių rinktinės vado padėjėjas, organizavo šauliams lauko pratybas.

1933 m. jis kartu su notaru Jonu Maželiu, gydytoju Juozu Rameliu ir mokyklos vedėju Jonu Mačeika įkūrė Anykščių šaulių klubą, kurio tikslas – burti visuomenę naudingam ir gražiam laisvalaikiui, rengti savišvietos programas.

1944–1945 m. J. Rimkus buvo Žalgirio (Panevėžio r.) miškų urėdijos Gitėnų girininkas, 1945–1947 m. – Panevėžio miško pramonės ūkio Miškų ūkio sektoriaus technikas, 1947–1949 m. – to paties ūkio inžinierius.