היה במשך שנים רבות אחד ממקורביו של אריאל שרון, ופעיל בפעילות פוליטית וציבורית. בשנים 1979 עד 1981 שימש כעוזרו של שרון שהיה אז שר החקלאות ועוזר שר הביטחון. לאחר מכן שימש יושב ראש השק"ם. בשנת 1983 נבחר לתפקיד ראש עיריית הרצליה ולאחר מכן נבחר פעמיים נוספות לתפקיד זה, שאותו מילא עד לשנת 1998. יזם את הקמת מרינה הרצליה, והביא לשינוי באזור התעשייה, שהפך למרכז היי טק. בתקופת כהונתו הוקם אזור הספורט, נבנו אצטדיון הכדורגל, מטווח אולימפי, קאנטרי קלאב, ובית חיל האוויר אשר בתוכו היכל האומנויות של הרצליה. תמך ביוזמתו של פרופ' אוריאל רייכמן להקמת המרכז הבינתחומי הרצליה. בתקופת כהונתו הוקמו פרויקטים נוספים כגון קניון שבעת הכוכבים, שוקמו שכונות העיר כמו יד התשעה ונווה ישראל, נבנה גם החלק הנוסף בבית יד לבנים, המשמש כמוזיאון אמנות.
עם סיום כהונתו כראש העירייה נתמנה ליושב ראש חברת החשמל, תפקיד אותו מילא עד לשנת 2004.[5]
בשל טענות בקשר להליכים לא תקינים בהקמת מרינה הרצליה, הוגש נגד לנדאו כתב אישום והוא זוכה על ידי בית המשפט. הוא נחקר על ידי משטרת ישראל, בחשד שלא הוכח, כי הוא מעורב ב"פרשת פריצקי" וכי עמד מאחורי הדחתו של יוסף פריצקי מתפקיד שר התשתיות הלאומיות.[7]
בשנת 2006 נפתחה חקירה פלילית תחת אזהרה נגד לנדאו בחשד למינוי קרובים בחברת החשמל, ולניהול מכרזים בניגוד לכללי מנהל תקין. "חברת הפחם" שהיא חברת בת של חברת החשמל פתחה במכרז להובלת פחם לישראל. עלה החשד כי לנדאו הטה את החלטת המכרז לטובת עופר ספנות מפני שהוא מקורב ליולי עופר. האחים עופר אכן זכו במכרז, אך החקירה נגד לנדאו נסגרה בשל חוסר אשמה.
אלי לנדאו נפטר ב-6 בפברואר 2019 בגיל 79, והובא למנוחות בבית העלמין הישן בני ציון בנתניה .היה נשוי לבתו של עובד בן עמי, ליאורה, אשת עסקים בתחום הקולנוע והטלוויזיה בישראל.
בפברואר 2020 נקרא על שמו הרחוב העובר לאורך חוף הים בהרצליה.[8]
ספריו
ירושלים לנצח: מלחמת הצנחנים לשחרור עיר-דוד, אותפז, 1967