נולד במשפחה הונגרית מרובת ילדים (יוז'ף היה הילד השביעי) בעיר אונגוואר (כיום אוז'הורוד) שהייתה שייכת אז לממלכת הונגריה. בשנת 1945, לאחר תום מלחמת העולם השנייה הועברה העיר לשליטת ברית המועצות. יוז'ף ובני משפחתו הפכו לאזרחים סובייטים.
קריירת שחקן
סאבו החל את הקריירה שלו בקבוצת ספרטק אוז'הורוד, ששיחקה אז בליגה הסובייטית השנייה. סאבו שיחק בעמדת החלוץ בקבוצה. לאחר שתי עונות מוצלחות זומן לקבוצת הצמרת דינמו קייב. בדינמו הוא החליף תפקיד – מחלוץ לקשר. מהר מאוד הפך לשחקן מפתח בקבוצה ושולב בהרכב הפותח. סאבו שיחק במדי דינמו 10 שנים, במהלכן זכה עם הקבוצה בארבע אליפויות ובשני גביעי המדינה.
סאבו זומן לראשונה לנבחרת ברית המועצות בשנת 1962, אך עד שנת 1965 לא שותף במשחקי הנבחרת (אף שהיה בסגל הנבחרת למונדיאל 1962). ב-3 באוקטובר1965 ערך את הופעת הבכורה שלו במשחק ידידות מול יוון. את שערו הראשון במדי הנבחרת הבקיע כעבור שבועיים במשחק ידידות מול דנמרק. סאבו לקח חלק במונדיאל 1966, בו הגיעה נבחרת ברית המועצות עד לשלב חצי הגמר (הישג שיא של הנבחרת בכל ההיסטוריה שלה). סאבו השתתף בשני משחקים בשלב הבתים, במשחק רבע הגמר (מול הונגריה) ובמשחק חצי הגמר נגד גרמניה, בו נפצע ולכן נאלץ לפספס את המשחק על המקום השלישי.
סאבו לא נכלל בסגל נבחרת ברית המועצות ליורו 1968 (למרות ההופעה המוצלחת במונדיאל 1966). את משחקו האחרון במדי הנבחרת ערך ביוני 1971.
לאחר שחרורו מהנבחרת הלאומית הצטרף אל הנבחרת האולימפית של ברית המועצות. הוא השתתף עם הנבחרת באולימפיאדת מינכן, בה זכתה ברית המועצות במדליית ארד. סאבו לקח חלק ב-5 מתוך 7 משחקי הנבחרת והבקיע שער אחד.
קריירת אימון
בשנת 1977 מונה סאבו למאמן קבוצת זוריה וורושילובגרד. כעבור חצי עונה בקבוצה עבר לאמן את צסק"א קייב מהליגה השנייה. הוא הצליח להוביל אותה לצמרת הליגה ולמועמדות לעליה לליגה הראשונה. לאור הצלחותיו קיבל הצעה מקבוצת דנייפר דנפרופטרובסק, שנאבקה אז על מקומה בליגה הבכירה. סאבו הסכים, אך לא הצליח למנוע את ירידת דניפרו מליגת העל הסובייטית. בעונה הבאה המשיכה הקבוצה להידרדר והגיעה לתחתית הליגה הראשונה. סאבו הואשם בכישלון הקבוצה ופוטר מהתפקיד.
במהלך שנות ה-80 אימן קבוצות חובבים שונות. בתחילת שנות ה-90 זומן לצוות האימון של דינמו קייב על ידי ולרי לובנובסקי. כאשר עזב לובנובסקי את דינמו, לטובת עבודה בחו"ל מונה סאבו למאמן הקבוצה. הוא אימן את דינמו למשך עונה אחת, אחריה הוחלף במיכאילו פומנקו. סאבו שב לתפקיד המאמן של דינמו בשנת 1994 ומילא אותו עד לשנת 1996. במהלך כהונתו זכתה דינמו פעמיים באליפות אוקראינה ופעם אחת - בגביע האוקראיני. בשנת 1996 שב לובנובסקי לדיינמו וסאבו פוטר מתפקיד המאמן.
באמצע שנות ה-2000 שב סאבו לתפקיד המאמן הראשי של דינמו. הוא הצליח להוביל את הקבוצה לזכייה בגביע האוקראיני ב-2005, אך לא הצליח לזכות באליפות. בשנת 2007, בעקבות החמרה במצבו הרפואי, פרש סופית מהאימון.
סאבו אימן את הנבחרת הלאומית של אוקראינה פעמיים – תקופה קצרה ב-1994 ומ-1996 עד 1999.