נולד בערב סוכות ה'תרמ"ה (1884) בטאלנה שבאוקראינה, לפיגא ולרבי שמאי, ששימש כשוחט ובודק בעירו. בצעירותו למד תורה בבית המדרש בטאלנה ועמד בקשרים תורניים עם הרב יחיאל מיכל אפשטיין מחבר הספר ערוך השולחן. בהיותו בן 19 כתב לו הרב אפשטיין במכתב בין היתר:
”בהיות שזה זמן כביר שיש לי שיח ושיג בדברי תורה"ק עם האברך היקר כערכו הרב החריף והבקי משנתו זך ונקי י"א מוהר"ר דוד בן השו"ב המובהק דק' טאלנא, ועל פי חילופי מכתבים בחידושי תורה שיש לי עם הרב האברך הנ"ל ראה ראיתי כי הוא מיועד להיות מגדולי ישראל”.[1]
בשנת ה'תרס"ה (1905) עזב את רוסיה כדי לא להתגייס לצבא. הוא עבר לרומניה, בתחילה שהה בעיירה בידעוולע שבמחוז מרמרוש ולאחר מכן עבר לויז'ניץ שם היה קשור לאדמו"ר רבי ישראל הגר, וידידו הקרוב של בנו רבי מנחם מנדל. בשנת ה'תרס"ז (1907) נשא את גולדה בת רבי יחיאל מיכל פיקסלר. לאחר נישואיו התגורר במחוז מרמרוש כשהוא סמוך על שולחן חותנו.