היה בנו של רבי שלמה גולדמן וחתנו של רבי דוד שלמה מקוברין. משנת תרפ"ו החל לשמש כרב בעיר זווהיל שבאוקראינה, לאחר שאביו עלה לארץ ישראל. על אף שהיה מחמיר בפסקיו על עצמו השתדל עד מאוד להקל לאחרים. נרדף על ידי השלטון הסובייטי ונשפט לשבע שנות עבודת פרך בסיביר. מסופר כי הטיח בפני שופטיו כי "אין אדם נוקף אצבעו מלמטה אלא אם כן מכריזין עליו מלמעלה".[1][דרוש מקור: לפרשת המשפט, ונאומו]. בתום שבע שנות הגלות קיבל משרת רבנות בעיירה סמוכה למוסקבה.
בשנת תרצ"ז (1937) הצליח להימלט מרוסיה, עלה לארץ ישראל והתיישב בירושלים. היה מקורב לרב הרצוג[2] התפרנס בצמצום. בשנת תש"ה (1945), לאחר פטירת אביו, החל לכהן כאדמו"ר.
