Urodził się 7 grudnia 1895 w Połonnem na Wołyniu[1]. Otrzymał tradycyjne żydowskie wychowanie religijne, eksternistycznie ukończył rosyjskie gimnazjum. Po wybuchu I wojny światowej został wcielony do rosyjskiej armii, podczas służby został ranny[2].
Opuścił Rosję Radziecką i od 1921 mieszkał w Warszawie, gdzie w kolejnym roku znalazł się wraz z Urim-Cewim Grinbergiem i Melechem Rawiczem wśród założycieli ekspresjonistyczno-futurystycznej grupy artystyczno-literackiej Hałastra (jid.די כאַליאַסטרעChaliastre) skupionej wokół miesięcznika literackiego „Ringen”. Wraz z Izraelem Jehoszuą Singerem i Ojzerem Warszawskim był współwydawcą pisma „Chaliastre” (1922), a w 1924 był jednym z założycieli tygodnika „Literarisze Bleter”[1][2][3][4][5]. Stał się idolem żydowskiej awangardy, świetnie przyjmowanym na Zachodzie. W latach 1922–1925 czasowo mieszkał w Berlinie, Paryżu, Londynie, odwiedził też Palestynę[1][3][5], powracał jednak do Warszawy, którą ostatecznie opuścił w 1926, zawiedziony tym, że nie udało mu się tu przeprowadzić rewolucji w sztuce i literaturze[5]. Powrócił do Związku Radzieckiego – mieszkał w Kijowie i Moskwie[3]. W swojej ówczesnej twórczości bezowocnie starał się pogodzić swoje przywiązanie do kultury żydowskiej z entuzjazmem do systemu komunistycznego[1]. Należał do najpopularniejszych pisarzy tworzących literaturę jidysz i był uważany za lidera żydowskich pisarzy rewolucyjnych. Jego utwory tłumaczone były na rosyjski[2][3]. Pracował w Żydowskim Teatrze Państwowym w Moskwie[6]. W 1939 roku otrzymał Order Lenina[2].
Podczas II wojny światowej był działaczem Żydowskiego Komitetu Antyfaszystowskiego, zaś w literaturze zajął się tragicznymi losami polskich Żydów – było to tematem takich jego utworów jak poemat Cu a jidyszer tencerin (Do żydowskiej tancerki) z 1940 czy wydana pośmiertnie powieść Trot fun dojres (Krokiem pokoleń / Marsz pokoleń, 1966)[1], poświęcona powstaniu w getcie warszawskim[6].
W 1949 został uwięziony, a 12 sierpnia 1952 stracony w Moskwie, wraz z grupą innych pisarzy narodowości żydowskiej tworzących w jidysz i oskarżanych o nacjonalizm w stalinowskim procesie poetów żydowskich[1][2]. W 1956 został zrehabilitowany[2].
Życie prywatne
Z pierwszą żoną Zinaidą Joffe miał córkę Olgę Markisz Rapaj, a z drugą Esterą dwóch synów Szymona i Dawida[7].