海法马卡比被同市的海法夏普尔(Hapoel Haifa)光芒完全遮蓋,夏普尔是海法最火熱的球隊,更是當時的市長Abba Hushi最擁護的球隊。但在海法马卡比的早年時期已採用技術及短傳為主,較為冒險的進攻型打法。1942年海法马卡比晉級以色列國家盃的決賽,但被特拉维夫比达(Beitar Tel Aviv)大炒12-1,是為球隊歷史上最大的敗仗。海法马卡比在1962年的國家盃決賽5-2擊敗特拉维夫马卡比(Maccabi Tel Aviv),取得直到80年代前唯一的錦標。翌年(1963年)海法马卡比再度晉級國家盃決賽,但以0-1負於同市球隊海法夏普尔。
八十年代
海法马卡比直到1980年代才成為以色列聯賽冠軍一份子,在主教練什洛莫·沙尔夫(Shlomo Sharf)及領隊齐南·沃拉齐(Yochanan Vollach,其後任職「以星综合航运」並被派到香港,業餘加盟港會再任球員)帶領下於1983/84年球季首奪聯賽冠軍,最後一輪比賽耶路撒冷比达(Beitar Jerusalem)只要戰勝或賽和特拉维夫夏普尔(Hapoel Tel Aviv)即可首次奪標,但不幸以0-1落敗,將冠軍雙手奉送給次席的海法马卡比。奪冠完全在綠軍意料之外,由於當時球隊採用全攻型打法,常因防守失誤而吃敗仗,沙尔夫起用3名攻擊球員,包括Moshe Selekter、Zahi Armeli及罗尼·罗森塔尔(Ronny Rosenthal),而中後場則以英年早逝的門將Avi Ran為重心。翌年海法马卡比成功衛冕聯賽冠軍。1985/86年球季聯賽再次鬥到最後一輪比賽,領頭的海法马卡比與次席的特拉维夫夏普尔(Hapoel Tel Aviv)決戰,因對方一個有越位之嫌的入球以0-1落敗,失去三連冠的機會。
1988年海法马卡比以10-0大勝特拉维夫马卡比(Maccabi Tel Aviv)造出歷來最大勝仗紀錄。1988/89年球季在Amazzia Levkovic領導下再次獲得聯賽冠軍。
2003/04年在年青的前隊員罗尼·列维(Ronny Levy)領導下再次奪得聯賽冠軍,花費鉅大的陣容對比整體削弱的其他球隊,球迷及媒體期望海法马卡比在每場比賽取得大量入球,但海法马卡比卻失去其傳統的進攻打法,表現令人失望。同季海法马卡比的青年隊(16-18歲)贏得本土冠軍,而奪得「霍士兒童世界盃」(Fox Kids World Cup)由12歲兒童組成的以色列隊更全部來自海法马卡比。
2006/07年球季歐聯資格賽更被抽到與利物浦對壘,首回合作客1-2僅負兼取得作客入球,次回合由於以黎衝突,海法马卡比被迫移師到烏克蘭基輔的洛巴諾夫斯基戴拿模球場(Lobanovsky Dynamo Stadium),雙方1-1平手而被淘汰。轉戰歐洲足協盃的海法马卡比第一圈兩回合累計4-2淘汰保加利亞的列迪斯洛維治(Litex Lovech)晉級分組賽,被編A組與流浪者、利沃诺、歐賽爾及贝尔格莱德游击队同組,小組2勝1和1負排第2位出線32強淘汰圈,兩場累計1-0僅勝莫斯科中央陆军晉級16強,首回合0-0,次回合作客終被西班牙人4-0擊敗出局。當季聯賽只能取得第5位,是近年來最差的成績。
贊助商號
球隊主席雅各·沙哈尔(Ya'akov Shahar)屬下的「梅耶尔汽车公司」(Mayer's Cars and Trucks Ltd.)是海法马卡比的主要贊助商號,由於梅耶尔是「富豪」(Volvo)及「本田」(Honda)在以色列的進口代理商,所以過往數年海法马卡比球衣胸口都是印上「富豪」或「本田」的標誌。
1955年「義大利工人聯盟」(Italian Labour Union)在市中心興建一個足球場作為獻給海法市的禮物,球場命名「海法市立運動場」(Haifa Municipal Stadium,俗稱Kiryat Eliezer),成為海法兩支主要球隊的新主場球場。1955年9月24日舉行首場比賽,由海法兩支球隊對壘,海法马卡比以4-1擊敗海法夏普尔。