1906 wurde Jaffe auf der dritten Allrussischen Konferenz der Zionisten in Helsinki zum Mitglied des Zentralkomitees der Zionisten-Organisation von Wilna gewählt, und auf dem achten Zionisten-Kongress wurde er in das Exekutivkomitee gewählt, in dem er bis 1911 blieb.
Nach dem Tode des Zionisten-Führers Jechiel Tschlenow (1863–1918) wurde Jaffe zum Sekretär der Moskauer Zionisten-Organisation gewählt und 1919 zum Vorsitzenden der Zionisten-Organisation Litauens. In Wilna beteiligte er sich an der Herausgabe der Zeitungen Letzte Naies, Jiddische Zaitung und Cha-Schawua.
1920 emigrierte Jaffe mit seiner Familie nach Palästina, wo er sogleich Redakteur und 1921–1922 Chefredakteur der Zeitung Haaretz wurde. Von 1926 bis zu seinem Tode war er Direktor der StiftungKeren Hajessod.