הוא היה מעשרת הבחורים הראשונים שעמם נפתחה ישיבת טלז ולמד בה תורה מפי ראשי הישיבה הראשונים: רבי צבי יעקב אופנהיים, רבי מאיר אטלס ורבי שלמה זלמן אבל. בהמשך עבר לישיבת סלובודקה ובשנת 1883 התקרב לרב אליעזר גורדון שבא אז לסלובודקה. הוא קיבל גם מפי הסבא מקלם. לפי תיאורים מאוחרים למד בתקופת סלובודקה עם אחיו ר' שמואל אביגדור "שמונים דפי גמרא ליום בבקיאות, ודף אחד לחודש בחריפות".
לאחר נישואיו התגורר בציטביאן ובקרוקי, אחר כך יסד את הישיבה לצעירים בפוניבז' ועמד בראשה במשך תקופה עד שהתמנה כרבה של קופישוק. הוא סייע לביסוסן של ישיבות רבות בליטא, הן בפן הרוחני והן בפן הגשמי, ולכן בעת פולמוס המוסר (1897) נקרא לתווך בכמה ישיבות בין תומכי הכנסת לימוד המוסר למסגרות הישיבתיות ומתנגדיו. תקופה מסוימת נקלע ליקטרינוסלב שבאוקראינה, ואז יסד בה ישיבה גדולה ועמד בראשה. בתרנ"ז (1897) התגורר בקלם ויסד עם יואל משה סלומון אגודה לקידום התיישבות חרדית בארץ ישראל, הוא פרש מעיסוק בנושא בשל מכתב שקיבל מרבי יצחק בלאזר שישב אז בירושלים ושסבר שהביצוע אינו מעשי.
ספרו ההגותי "נצח ישראל" התפרסם עוד בחייו, בתור אחד מראשי הרבנים שעסקו בכינון "אגודת ישראל"[2], היה ספרו לנכס צאן ברזל בהגותה של התנועה. ספרו ההלכתי-למדני "פיקוח נפש" הכולל בתוכו פרק רחב על הלכות קידוש השם, היה עבודתו העיקרית במשך שנים רבות, אך נדפס רק לאחר פטירתו. הוא חלה בגיל שישים במחלה חשוכת מרפא ונפטר בכ"ה בטבתה'תרפ"ח, 18 בינואר1928.