אל-ח'אלידי, בן למשפחת ח'אלידי, למד בבית הספר ראשידיה בביירות, ולאחר מכן סיים לימודי משפטים באוניברסיטת איסטנבול.
בשנת 1906 נתמנה למנהל הבנק החקלאי בירושלים[1].
בשנים 1913–1915 היה מפקד המשטרה בביירות ולבנון. לאחר מכן, עד כיבוש ביירות בידי הצרפתים היה ראש התביעה בעיר. ביולי 1920 מונה לשופט בבית הדין לערעורים של ממשלת המנדט[2] ובשנת 1926 קודם לשופט בית הדין העליון[3][4][5].
באוגוסט 1938, כשנה לאחר גירוש ראש העירייה הקודם, אחיינו, ד"ר חוסיין אל-ח'אלידי, נתן הסכמתו להתמנות לראש עיריית ירושלים במקומו[6][5]. ח'אלידי מונה לתפקיד באופן רשמי בתחילת ספטמבר 1938 ושימש בתפקיד עד מותו באוגוסט 1944, אף על פי שבספטמבר 1943 נפוצו שמועות על כוונתו להתפטר בגלל בריאות לקויה[7]. ב-27 באוגוסט 1944 נפטר[8]. ח'אלידי נקבר בבית הקברות ליד שער האריות[9].
באופן כללי, מהיותו שופט, לא היה מעורב ח'אלידי בפוליטיקה[5]. אולם במאי 1944 השתתף בכינוס של ראשי ערבים ערבים ביפו שקרא להפסקת עלייה ולאסור מכירת קרקעות ליהודים, דבר שעורר את חמתם של הנציגים היהודים בעירייה[10] ותמיכה מצד אישים ערביים[11].
"אנו משתתפים בצער הצבור הירושלמי על פטירתו של מוסטפא ביי כאלדי ראש העירייה, אשר במשך שנים רבות שירת את הארץ בתפקידים גבוהים שונים, ומת על משמרתו כראש העירייה. אם כי היו לנו, היהודים, טענות נגדו, איננו יכולים בכל זאת להתעלם מן העובדא שהוא השתדל, מדי פעם בפעם, להתרומם מעל כל נטיות עדתיות, ואף עשה לא מעט כדי להתקרב לעדה היהודית בירושלים, שלא כבן משפחתו - הד"ר חוסין כאלדי שבתקופתו הפכה עיריית ירושלים למבצר ומרכז הפוליטיקה הערבית בארץ."
ח'אלידי התגורר בשכירות, תקופה מסוימת, בקומה השנייה של בית גארבאדיאן (רחוב עמק רפאים 33). כיום (2023), תלוי במקום שלט הנצחה המספר את ההיסטוריה של הבית, ובו הוא נזכר.
^אורי שטנדל, המשפחות המוסלמיות המנהיגות בירושלים בתקופה העות'מאנית, בתוך: התנועה הלאומית הפלסטינית: מעימות להשלמה? (עורכים: משה מעוז וב"ז קדר), משרד הביטחון 1996, עמ' 56.