Gydytojas, teismo medicinos specialistas, vienas uoliausių Lietuvos sovietinių kolaborantų, pasipriešinimo sovietiniam okupaciniam režimui slopintojų. Tariamo pasipriešinimo dalyvio slapyvardžiai Erelis, Narutavičius, sovietinio saugumo agento – Ąžuolas, Noreika, Kudirka. Mokėsi Kauno kunigų seminarijoje, 1930–1935 m. studijavo Vytauto Didžiojo universiteto Teologijos‑filosofijos fakultete (nebaigė). 1941 m. baigė VDU Medicinos fakultetą. Per nacių Vokietijos okupaciją (1941–1944) buvo Lietuvos laisvės armijos rezervinis narys. 1944–1948 m. ir 1954–1987 m. dėstė Vilniaus universitete, 1944–1948 m. Anatomijos, 1977–1987 m. Patologijos ir teismo medicinos katedros vedėjas. 1954–1964 m. Respublikinės teismo medicinos laboratorijos vedėjas. 1945 m. LSSR Valstybės saugumo liaudies komisariato (nuo 1946 m. LSSR Valstybės saugumo ministerija, MGB) užverbuotas dalyvavo provokacijose prieš Lietuvos partizanus, kai buvo kuriama MGB kontroliuojama partizanų vyriausioji vadovybė. Buvo Vienybės komiteto (įkurtas ir sunaikintas 1945 m. Vilniuje) Bendro demokratinio pasipriešinimo Sąjūdžio (BDPS, įkurtas 1946 06 06) nariu. Susitikdavo su laisvės kovotojų apygardų štabų nariais ir MGB išduodavo Lietuvos partizanų telkimosi, vadovybių būstinių vietas. 1945 m. vasarą išdavė vieną Vytauto apygardos kūrėjų V. Gumauską (slapyvardis Gailius), Aukštaitijos partizanų rėmėją, Kirdeikių kunigą P. Liutkų (slapyvardis Juodasis Petras). Sekė istoriką B. Dundulį, rašytoją B. Sruogą ir kitus inteligentus. 1946 m. rugpjūčio 12 d. Vilniuje surengė partizanų vadų pasitarimą, po kurio suimamas ir vėliau sušaudomas Didžiosios Kovos apygardos vadas Jonas Misiūnas-Žalias Velnias. 1946 m. rudenį vykdydamas čekistų užduotis, įkūrė Vyriausiąjį ginkluotųjų pajėgų štabą, kurio daugumą narių sudarė NKVD agentai. 1946–1948 m. dalyvavo bemaž visose svarbesnėse čekistų operacijose naikinant Lietuvos partizanų vadovybę. Dėl nusikalstamos J. Markulio ir jo agentų veiklos buvo suimta 178 ir nužudyta 18 partizanų.1948 m., dėl galimos bausmės pagal partizanų teismo nuosprendį, J. Markulis buvo išsiųstas į Leningradą rengti disertacijos (į Lietuvą grįžo 1954 m.).
