הישיבה שוכנת בשכונת שערי חסד, בה התגורר וכיהן הרב חרל"פ כרב השכונה. בשנותיה הראשונות שכנה הישיבה, בקומה השנייה של בית הכנסת "הגר"א", ולאחר פטירתו של הרב חרל"פ, הפך בנו ר' יוסף דוד זאב חרל"פ את הבית לבית כנסת, שאליו הועברה גם הישיבה.
שבת בית זבול
במהלך השנים שלאחר פטירת הרב חרל"פ, נקראה על ידי המכון וע"י הרבנים הראשיים[3], השבת הסמוכה ליום פטירתו 'שבת בית זבול', ובה נערכו מגביות עבור הישיבה ומוסדותיה[4].
הישיבה, וסדרת הספרים בעלת השם הזהה, נקראו על שם אביו של הרב חרל"פ, הרב זבולון חרל"פ, וכן על שם ארץ ישראל אשר ממנה לא יצא מעולם[6][7].
מפעלים תורניים
בבית הרב חרל"פ - ישיבת בית זבול התקיימו מספר מפעלים תורניים[8], בנוסף לקיומו של בית הכנסת "שושנת יעקב", שמתקיימות בו תפילות כסדרן[9]. בין המפעלים שהתקיימו במקום:
כולל חוף ימים
כולל אברכים ע"ש ספרו של הרב יחיאל מיכל חרל"פ, בנו של הרב חרל"פ ונשיא מוסדות הישיבה. לצד הכולל נוסדה 'הקרן להדפסת כתבי הרב יחיאל מיכל חרל"פ' שעל ידה הודפסו ספרי 'חוף ימים'.
המכון להוצאת כתבי הרב חרל"פ
לאחר פטירת הרב חרל"פ הוקם ועד להוצאת כתביו. עם ייסודו של הוועד יצאה לאור תוכנית להוצאת הכתבים לאור. בתוכנית נמנו עשרה כרכים בסדרת 'בית זבול' - הגות הלכתית-עיונית, ושלושים וששה כרכים בסדרת 'מי מרום' – ההגות המחשבתית-אמונית.
כיום יצאו לאור על ידי המכון להוצאת כתבי הרב חרל"פ ששה כרכי 'בית זבול', ועשרים כרכי 'מי מרום'.
בנוסף יצאו בישיבה שבעה ספרים בשם 'אור חיים' מאת הרב חיים לייב חרל"פ (נינו של הרב חרל"פ).
ועד חכמים כרם שלמה
תוכנית שהוקמה לעילוי נשמתו של הרב שלמה נתן קוטלר (שבתו הייתה נשואה לרב חרל"פ לעת זקנותו) במהלכה ניתנו מידי שבת שיעורים שיחות והרצאות מפי תלמידי חכמים ואנשי רוח. ביניהם: הרב רפאל קוק[10]. מטעם ועד החכמים נדפס חלקו השלישי של הספר כרם שלמה של הרב קוטלר.
קרן רבי דניאל סירקיס למצוינים
קרן מלגות למצוינים שנוסדה על ידי דניאל סירקיס שהיה גם מחברי הוועד של הישיבה. הקרן המשיכה לפעול גם לאחר פטירתו בהתאם להחלטה שהתקבלה בהנהלת הישיבה[11].
גמילות חסדים 'הפרח'
קרן גמ"ח שנוסדה לעילוי נשמת הרבנית פעשא - רעייתו הראשונה של הרב חרל"פ, ואם ילדיו.
רבני הישיבה
הישיבה ומוסדותיה הוקמו בנשיאות הרב יעקב משה חרל"פ. לאחר פטירתו עמד בנו הרב יחיאל מיכל חרל"פ בנשיאות המוסד, ולאחריו הרב זבולון חרל"פ היה נשיא הישיבה.
חברי ההנהלה במשך השנים היו בני וחתני הרב חרל"פ. הרב מרדכי יהודה ליב זק"ש, הרב אברהם שדמי[12] (ובנו הרב אהרן שדמי[13]), והרב שמואל ברוך ורנר. הרב יוסף דוד זאב חרל"פ, בנו של מייסד הישיבה, עמד בראשות הישיבה אך גם עסק בניהול הישיבה[14].
ראשות הישיבה וניהולה עברו בירושה לנכדו של הרב חרל"פ - הרב ניסן זק"ש[15], אך בשל תפקידו כרבה של שכונות שערי חסד ורחביה, החליט להותיר אחריות זו לאחיו הרב זבולון זק"ש מרבני שכונת רוממה בירושלים. בנו של הרב זבולון, הרב יעקב משה זק"ש עומד כיום בראשות הישיבה.
ועד הישיבה
למען הישיבה נוסד 'ועד הבניין של מדרש גבוה בית זבול'. נשיא הוועד היה הרב הראשי לתל אביב הרב אונטרמן.