נולד למשפחת אפשטיין, דור רביעי לרב אריה לייב הלוי אפשטיין, בעל הפרדס. אביו היה הרב מאיר הלוי אפשטיין ("ר' מאיר שניפעסקער"), דיין בווילנה ורב בקופישוק. התגורר בהורדנה ונישא לבת העיר. החליף את שמו מאפשטיין לקצנלנבוגן.
בשנת תרי"ח (1858) התמנה לרבה של קוסובה, ביוזמת הרב יצחק אלחנן ספקטור, שהיה אז רבה של נובהרדוק. כיהן ברבנות קוסובה במשך עשרים וארבע שנים.
בשנת תרמ"ב (1882) עבר לכהן כרבה של קוברין. ניהל את הקהילה היהודית הגדולה בעיר, ובין השאר ייסד קופת גמ"ח, שלאחר פטירתו נקראה על שמו "מעשה שאול". הסכמתו מתנוססת על ספרים תורניים שיצאו בימיו.