שי החל את פעילותו כאיש תקשורת עם גיוסו לצה"ל בשנת 1964, כאשר שירת במערכת כתב העת "במחנה נח"ל". אחר כך המשיך ב"קול ישראל" ככתב לענייני ירושלים, יהודה ושומרון ומשטרה. בשנים 1972–1977 היה כתב בטלוויזיה הישראלית לענייני צבא וביטחון. בשנת 1977 יצא לשנה ללימודים בארצות הברית מטעם מכון העיתונות האמריקני. בשובו לישראל היה כתב הטלוויזיה הישראלית בכנסת.
בשנת 1979 הושאל למשרד החוץ ושימש עד 1981 מזכיר העיתונות של משלחת ישראל לאו"ם ועד 1983 יועץ התקשורת של שגרירות ישראל בוושינגטון. עם מינויו של משה ארנס לשר הביטחון, הוא הזמין את שי להתלוות אליו כיועץ תקשורת והוא המשיך בתפקידו עם שר הביטחון הבא, יצחק רבין. הוא כיהן בתפקידו עד שנת 1985[1], עת מונה למפקד תחנת הרדיו גלי צה"ל ובספטמבר 1989 לדובר צה"ל, בדרגת ייצוגתא"ל. הוא זכור בתפקידו זה בעיקר מתקופת מלחמת המפרץ, אז זכה לכינוי "המרגיע הלאומי". בשנת 1991 זכה בתעודת הוקרה של פרס זיו מטעם צדק-מדות-מוסר על תרומתו לרוח עם ישראל כדובר צה"ל בחודשים הקשים שעברו עליו בשנת תשנ"א.
ב-3 בנובמבר2008 התפקד לקדימה ונבחר מטעמה לכנסת ה-18. במסגרת תפקידיו בכנסת היה יושב ראש השדולה לקידום הדיפלומטיה הציבורית, יושב ראש השדולה לחיזוק הקשר עם העם היהודי ועמד בראש משלחת הכנסת לפרלמנט האירופי.
לקראת הבחירות לכנסת התשע עשרה פרש מ"קדימה", והתמודד בפריימריס במפלגת העבודה. שי הוצב במקום ה-14 ברשימת המפלגה לכנסת ונבחר לכנסת ה-19. במסגרת תפקידיו בכנסת היה חבר בוועדת החוץ והביטחון ובוועדת הפנים. בנוסף, כיהן כיושב ראש השדולה לחיזוק הקשר עם העם היהודי, השדולה לחיזוק יחסי ארצות הברית-ישראל, השדולה למען ירושלים, שדולת כחול לבן, השדולה לביטחון העורף ושדולת הגמלאים. כמו כן, הוא ראש משלחת הכנסת למועצת אירופה ויו"ר אגודת הידידות הפרלמנטרית ישראל-גרמניה. ב-28 במאי2014 נבחר לשמש סגן יו"ר הכנסת מטעם סיעת העבודה.
ב-2019, בבחירות המקדימות של מפלגת העבודה לקראת הבחירות לכנסת העשרים ואחת הגיע למקום ה-16 ובשל כך הוצב במקום ה-24 ברשימת המפלגה ולא נכנס לכנסת. ברשימת העבודה לקראת הבחירות לכנסת העשרים ושתיים הוצב על ידי עמיר פרץ במקום ה-14, שנחשב לא-ריאלי, ופרש במחאה מרשימת העבודה לכנסת.
לקראת הבחירות לכנסת ה-25, התמודד בבחירות המקדימות של מפלגת העבודה. הוא זכה ב-7882 קולות, ובשל שיטת השריון המגדרי שהופעלה במפלגה העבודה בבניית רשימתה לכנסת, שובץ במקום ה-17 ברשימה, ולא חזר לכהן כחבר הכנסת.
לאחר הבחירות שימש שי כפרשן וכחבר פאנלים שונים בערוצי הטלוויזיה בישראל. כמו כן, הוא מפרסם טורי דעה בעיתונות בעברית. שי חבר בהנהלת "מפקדים למען ביטחון ישראל".
חיים אישיים
שי נשוי לרבקה ואב לשלושה ילדים וסב לשמונה נכדים. מתגורר עתה בתל אביב.