נולד במרקש שבמרוקו למזל וליצחק אלבז ב-21 באפריל 1921 (ה'תרפ"א). בילדותו התחנך במוסדות מקומיים, וכשבגר עבר לפריז שבצרפת כדי ללמוד חינוך והוראה. עם סיום לימודיו חזר למרוקו, ושימש כמורה וכמחנך. בצעירותו התייתם מאביו, ונאלץ לפרנס את אחיו ובני משפחתו[2].
בשנת 1955 עלה לישראל והתיישב בקיבוץ דורות[2]. בשנת 1959 החל ללמוד מקרא ואנגלית לתואר ראשון. בחודש יוני 1966 קיבל מהאוניברסיטה העברית תואר שני בספרות צרפתית ובספרות השוואתית[3] (את חלקו השלים בפריז). בתקופת הלימודים של התואר השני, שימש במקביל כמנהל היחידה לאירופה במחלקת הנוער והחלוץ של ההסתדרות הציונית העולמית. מטעם האחרונה יצא גם לשליחות בפריז.
פעל לייסד את סדרת "הים שלנו" במסגרת הוצאת כרמל, שמטרתה הייתה חיזוק המודעות של אזרחי ישראל לסביבה התרבותית שבה הם חיים, וייצור תחושת סולידריות עם העמים האחרים השוכנים לחופי הים התיכון.
במסגרת פעילותו לשלום, נפגש עם פלסטינים תושבי השטחים ואנשי אש"ף[5]. הוא תמך ברעיון שתי מדינות לשני עמים כפתרון לסכסוך. בנובמבר 1986 היה בין מארגני מפגש ברומניה[6], במסגרת משלחת שמנתה כ-20 אנשים מישראל, עם אנשי אש"ף[7]. חלק מהמשתתפים (אך לא אלבז) הועמדו לדין, כשנה אחר כך, באשמת הפרה של "חוק המפגשים", שאסר על מגע בין ישראלים לנציגים של ארגון טרור[8]. במרץ 1988 השתתף במפגש ישראלי־פלסטיני בבריסל[9]. ביולי 1989 השתתף בכנס של יהודי המזרח עם פעילים פלסטינים בטולדו, ספרד[10].
בשנות ה-90 של המאה ה-20 נמנה עם חבר הנאמנים של המרכז הבינלאומי לשלום במזרח התיכון[11].
אלבז היה דובר עברית, צרפתית, אנגלית וערבית, ולפי פרופסור דוד אוחנה וד"ר עמי בוגנים, אלבז פילס דרך במחקר על התרבות הברברית.
הלך לעולמו בירושלים ב-26 באוגוסט 2003 (ה'תשס"ג), ונקבר בקיבוץ דורות.
