Перше єврейське кладовище виникло за два роки до офіційного виникнення Одеси — у 1792 році. Тут були розташовані найстарші поховання одеських євреїв, старовинні родинні склепи. Крім того в окремій могилі були поховані старовинні свитки Тори, що були зіпсовані під час першого Єврейського погрому у жовтні 1915 року.
На даний час від кладовища залишилася лише фрагмент стіни молитовного будинку, що знаходився біля головного входу до кладовища — тепер частина будинку № 11 по вул. Водопровідній.
