הקבוצה נוסדה ב-1939[1] על ידי יעקב עיני (הבעלים כיום חזי עייני הוא בנו של יעקב), והחלה את דרכה בליגות הנמוכות. בשנת 1964 העפילה הקבוצה לליגה א' שהייתה ליגת המשנה, ושיחקה בה שתי עונות, בעונת 1964/1965 בליגה א', ובעונה שלאחר מכן, שבה סיימה אחרונה בטבלה, וירדה לליגה ב'.
בסיום עונת 1982/1983 העפילה הקבוצה לליגה הארצית מהמקום הראשון, לאחר עונה שלמה ללא הפסד[2].
בשנות השמונים שיחקה הקבוצה במשך שלוש עונות בליגה הארצית בין השנים 1984–1986. בתקופה זו הייתה הליגה הארצית ליגת הכדורגל השנייה בחשיבותה בישראל. בעונתה הראשונה בליגה הארצית הצליחה הקבוצה לסיים במקום ה-9 מתוך 16 קבוצות, הישג שנחשב לגדול ביותר בתולדות הקבוצה עד כה. בעונתה הראשונה היא אף נפגשה לצמד מפגשי דרבי היסטוריים בתולדותיה עם הפועל חיפה, שהסתיימו בהפסד וניצחון הסטורי משער של יוסי ליפשיץ שחקנה לשעבר של הפועל חיפה, בעונתה השנייה בליגה הארצית היא ניצלה מירידה לליגה א' במחזור האחרון, ובעונתה השלישית והאחרונה היא סיימה במקום האחרון כאשר לזכותה היו רק 2 ניצחונות בלבד אותם השיגה במחזורי הסיום לאחר שכבר ירדה מעשית לליגה א'.
לאחר הירידה מהליגה הארצית שיחקה בית"ר חיפה בליגה א' במשך 4 שנים ובסיום עונת 1989/1990 נשרה חזרה ללליגה ב', 3 שנים מאוחר יותר התדרדרה עוד יותר, ונשרה לליגה ג'.
בשנת 2002 סיימה בית"ר חיפה במקום השני בטבלת ליגה ג' מחוז חיפה (כיום לא קיים), הקבוצה לא הייתה אמורה לעלות לליגה ב' אבל בגלל התפרקות של כמה קבוצות בליגה, עלתה בית"ר חיפה לליגה ב' לאחר 9 שנים של היעדרות.
בעונת 2005/2006 עונתה הרביעית של בית"ר חיפה בליגה ב' סיימה בית"ר חיפה במקום השני בטבלת ליגה ב' מחוז צפון א', המקום השני הקנה לקבוצה את הזכות להשתתף במשחקי מבחן על העלייה לליגה א' עם עירוני אום אל-פחם ומכבי טמרה, בית"ר חיפה ניצחה בשני המשחקים ושבה לליגה א' אחרי 16 שנות היעדרות. שנתיים לאחר שעלתה לליגה א' נשרה בית"ר חיפה חזרה לליגה ב' דרך משחקי המבחן דרכם עלתה לליגה א' שנתיים קודם לכן.
