זמן קצר לאחר עלייתו ארצה החל לעבוד כשוליה במסגריה וכעבור כשנה הועסק כשליח בחברת הביטוח "מגדל". בשנת 1953 פוטר מעבודתו ועבר לשמש סוכן ביטוח בחברת "בניין". גיוסו לצה"ל נדחה בשל בריאותו, לאחר שסבל ממחלת הפוליו בילדותו, וב-1955 הקים סוכנות ביטוח עצמאית בשכונת שפירא שבדרום תל אביב. באותן שנים התפרסם אליהו ברעיון השיווקי שבמרכזו הייתה הסיסמה "אליהו ישלם". במקביל לעבודתו כסוכן ביטוח עסק באמרגנות וארגן הופעות בידור.
בשנת 1966 ייסד אליהו את "אליהו חברה לביטוח", שעסקה בראשיתה בענף ביטוח הרכב בלבד. פעילותה הורחבה תוך זמן קצר עם קבלת הרישיון לעסוק בביטוח אלמנטרי (1968) וביטוח חיים (1969). חברת "אליהו" הייתה לחברה הראשונה שקיבלה רישיון לעסוק בביטוח לאחר קום המדינה.
פעילותו העסקית נמשכה גם במהלך כהונתו בכנסת, ובשנה הראשונה לכהונתו הוא החל לעסוק בנדל"ן ובנה את "בית אליהו" בתל אביב, בו שיכן את משרדיו, וכן בנין משרדים רב קומות בחיפה. בשנת 1978 הצטרף לקבוצת היזמים שהקימה את פרויקט "גן העיר" בתל אביב.
לאחר סיום כהונתו בכנסת הרחיב את פעילותו הכלכלית. בשנת 1982 רכש 12% ממניות חברת הביטוח "הפניקס" וכעבור כארבע שנים רכש 25% נוספים. בשנת 1993 רכש את גרעין השליטה בבנק אגוד ובשנת 1997 רכש 36% ממניות קבוצת הביטוח "איילון". אלו נסחרו על ידו במהלך השנים. בשנת 1999 מכר את חלקו במניות "איילון" תמורת כ-20 מיליון דולר. בשנת 2005 מכר את חלקו בחברת "הפניקס" לאיש העסקים יצחק תשובה.
בשנת 2001, ניסה להצטרף לגרעין השליטה בבנק לאומי, כחלק ממהלך של מכירת אחזקות המדינה בבנק. אך הדבר לא יצא לפועל, עקב התנגדות בנק ישראל, מאחר שהחזיק בשליטה גם בבנק איגוד ובחברת הביטוח "אליהו".[2]
בשנת 2007 הוכתר אליהו על ידי העיתון "מעריב" כאדם בעל האחזקה השנייה בגובהה בענף הבנקאות בישראל (אחרי שרי אריסון). זאת בשל חלקו בבנק אגוד (27%) ובבנק לאומי (9.6%). הוא נמנה עם 20 האנשים העשירים במדינת ישראל.
במרץ 2012 חתם על הסכם לרכישת השליטה בחברת הביטוח "מגדל" תמורת 4.2 מיליארד ש"ח, והעסקה הושלמה באוקטובר 2012.[3] לעמידה בדרישות הרגולטור מכרה חברת "אליהו" את פעילותה בתחומי ביטוח חיים וביטוח בריאות לחברת "הראל".[4] הוא ציין זאת כסגירת מעגל לאחר כ-50 שנה שפוטר מעבודתו כשליח, רכש את החברה. הוא שימש כיו"ר דירקטוריון החברה עד ינואר 2022.
בספטמבר 2011 החליטה ועדה של רשות המסים בישראל להטיל על אליהו עיצום כספי בסך 2.8 מיליון ש"ח, בגין 30 מקרים, בשנים 2007–2009, של אי דיווח על הוצאה מישראל והכנסה לישראל של המחאות בנקאיות, בהיקף כולל של כ-74 מיליון ש"ח, זאת בניגוד לסעיף 9 לחוק איסור הלבנת הון. הוועדה ציינה כי אליהו נתן הסבר לגבי יעדם הלגיטימי של כ-13.5 מיליון ש"ח ששימשו להימורים בבתי קזינו באנגליה, אך לגבי למעלה מ-60 מיליון שקל לא ניתן הסבר מספק את הדעת, והמפר מסר ב"אמירה כללית" שהכספים נועדו לשימוש אישי.[5]
אליהו מתגורר בתל אביב, נשוי לחיה, ולהם ארבעה ילדים.
בנו, עופר אליהו (1957–2022), היה מנכ"ל "מגדל" במשך ארבע שנים וחצי, בשנים 2013–2018, אז עזב את התפקיד כחלק מהרצון של אביו לחזור לתפקיד יו"ר החברה. לפני כן כיהן כמנכ"ל חברת הביטוח שהקים אביו, אליהו חברה לביטוח, וכן כיו"ר איגוד חברות הביטוח.[6] לאחר מותו התגלה שהוא זה שקנה, תחת הישארות כאוהד אנונימי, את הזכויות על קבוצת הפועל תל אביב בכדורסל מידי המפרק, והעביר אותן לידי עמותת פועל אוסישקין תל אביב ללא תמורה. לאחר מכן גם תמך בהם כספית.[7]
בן אחר, ישראל אליהו, מכהן בתפקידי הנהלה בקבוצת החברות שלו.
