Gavo tradicinį žydų religinį išsilavinimą, beveik iki 15 metų studijavo Bibliją ir Talmudą chedere ir namuose. 1873–1876 metais mokėsi Perejaslavo rusų gimnazijoje, kurią baigęs tapo privačiu rusų kalbos mokytoju. 1877–1879 metais dirbdamas namų mokytoju turtingo žydo pirklio namuose, pamilo savo jaunąją mokinę Olgą Lojevą. Trejus metus merginos tėvai buvo patenkinti mokytoju, bet, sužinoję apie jaunuolių jausmus, jį išvarė. Nuo to momento prasidėjo jaunuolio klajonės ieškant darbo. Pirmiausia jis patraukė į Kijevą, bet, neradęs darbo, apsistojo Lubnuose, kur dvejus su puse metų dirbo valstybiniu rabinu, t. y. pareigūnu, atstovaujančiu žydų bendruomenei valstybės įstaigose. Lubnuose pradėjo rašyti rusų ir hebrajų kalbomis. 1883 metais Šolom Aleichemas grįžo į Kijevą ir netikėtai sutiko Olgą Lojevą. Jaunuoliai susituokė ir įsikūrė netoli Kijevo. Čia rašytojas užsiėmė kūrybine veikla. 1880 m. jis nusprendė rašyti jidiš kalba. Žurnale „Idišer Folksblat“ išspausdinamas jo pirmas apsakymas „Du akmenys“. Vėliau pasirodo novelės „Geriausi metai“, „Peiliukas“, pjesė „Gydytojas“, jau buvo pasirašomi slapyvardžiu Šolom Aleichem. Po uošvio mirties 1885 metais Šolom Aleichemas gauna didelį palikimą ir užsiima komercine veikla, bet po kurio laiko bankrutuoja. Dar būdamas turtingas, spėja išleisti du didelius „Žydų liaudies bibliotekos“ tomus, kuriuose spausdino ne tik savo, bet ir kitų (rašančių jidiš kalba) rašytojų kūrinius. Šiuo leidiniu jis padidino jidiš kalbos ir literatūros vaidmenį žydų kultūroje. Likęs be pinigų rašytojas tęsė literatūrinę kūrybinę veiklą. Jo kūrinių prototipais tapo žmonės, kuriuos jis sutikdavo Ukrainos miestuose ir miesteliuose. Pirmosios Rusijos revoliucijos įvykiai, antižydiški išpuoliai, kurių liudininku jis tampa Kijeve, priverčia šeimą 1905 metais palikti Rusiją. 1906 metų rudenį rašytojas atvyksta į Niujorką. Kiekviename JAV mieste jį šiltai sutinka žydų bendruomenė. 1908 metais Šolom Aleichemas pradeda turnė po Rusijos ir Lenkijos miestus. Mylimą rašytoją visur džiaugsmingai sutinka, tačiau jis kelionės metu suserga tuberkulioze. Po dviejų sunkios ligos mėnesių išvyksta į Italijos kurortą. 1908 metų spalio mėn. iškilmingai paminėtos rašytojo literatūrinės veiklos metinės. Tais pačiais metais Varšuvoje pradėjo eiti daugiatomis apsakymų rinkinys, į kurį įtraukti beveik visi Šolom Aleichemo kūriniai, pasirodę iki Pirmojo pasaulinio karo. 1909 metais leidykla „Šiuolaikinės problemos“ išleido Šolom Aleichemo kūrinių rinktinę rusų kalba. 1908–1914 metais, gydydamasis Italijos, Šveicarijos, Austrijos ir Vokietijos kurortuose, Šolom Aleichemas nenutraukė visuomeninės veiklos, sekė visuomenės, politikos ir literatūros naujienas, 1912 m. parašė romaną „Kruvinas juokas“.Prasidėjus Pirmajam pasauliniam karui su šeima iš Vokietijos persikėlė į Daniją, o 1914 metų pabaigoje – į JAV. 1916 metų gegužės 28 dieną Niujorke mirė. Šolom Aleichemo kūriniai išversti į daugelį kalbų. Rašytojas sugebėjo iš vidaus pavaizduoti įvairialypį žydų gyvenimą Rusijoje XIX a. pabaigoje – XX a. pradžioje, jų buitį ir miestelio gyventojų pasaulėjautą.