גרשובסקי נולד ב-1950 בתל אביב. למד בבית הספר העממי תל נורדאו ובתיכון עירוני ה' בתל אביב.
הוריו היו בעלי חיבה למוזיקה: אמו אהבה לשיר ואביו ניגן במנדולינה בתזמורת ובפסנתר. למרות זאת, ירון הושפע בעיקר מאחיו הגדול צביקה שניגן גם בפסנתר.
בגיל 6, לימד את עצמו לנגן בפסנתר והחל לנגן משמיעה. כשבגר למד לנגן באופן מקצועי אצל המורים של אחיו.
בשנת 1964 סיים את לימודי המוזיקה בקונסרבטוריון למוזיקה על שם רובין בחיפה, אך בשל גילו הצעיר (14) לא היה יכול להתקבל לאקדמיה למוזיקה.
לאחר מכן למד כשנה אצל פיסי אושרוביץ, נגן אקורדיון ומחלוצי מוזיקת הג'אז בישראל.
בשנת 1972, שלושה שירים שהלחין התקבלו לפסטיבל שירי הילדים: "פסנתר כנף" בביצוע להקת אבירי מפתח סול, "אולימפיאדה של צפרדעים" בביצוע דודו דותן ו"כיצד התבלבלו השמאל והימין" שביצע מייק בורשטיין. שמעון כהן, שהיה המנהל המוזיקלי של הפסטיבל, זיהה את כישרונו ומינה אותו לפסנתרן של הפסטיבל.
באותה השנה עיבד את השיר "עיר כלה" בביצוע אורי שבח לפסטיבל הזמר המזרחי וזכה במקום הראשון.
ב-1974 עבר עם אשתו דורית לבוסטון בארצות הברית ללמוד במכללת ברקלי למוזיקה. ב-1977 סיים את לימודיו בהצטיינות ועבר עם אשתו לניו יורק. בזמן לימודיו, הופיע במועדוני ג'אז.
ב-1978, לאחר לידת בתו הראשונה, קישר המתופף וחברו ללימודים קנווד דנארד (אנ') בינו לבין סקסופוניסט הג'אז פרעה סנדרס והוא עבד איתו כפסנתרן במשך כחצי שנה.
ביוני1979 הקים הסקסופוניסט ירוסלב יעקובוביץ' תזמורת שתלווה את להקת מנהטן טרנספר בהופעותיה. ירון שימש כנגן פסנתר וכלי מקלדת ובספטמבר באותה השנה הפך למנהל המוזיקלי של המנהטן טרנספר, תפקיד בו הוא מכהן עד היום.
במהלך שנות ה-80 של המאה ה-20, כתב עיבודים קוליים להצגות בתיאטראות ברודוויי ובהן "עיר מלאכים", "סווינג" ו"שיר סינגפור". בנוסף שימש כקלידן ב"עלובי החיים" וב"פנטום האופרה".
ב-1985 השתתף בהפקת האלבום "אטלנטיס" של הג'אזיסט ויין שורטר.
גרשובסקי נשוי מ-1974 לדורית, אותה פגש בפסטיבל הזמר שנה קודם לכן ולהם שלוש בנות. מתגורר בניו יורק ומופיע עם להקתו מנהטן טרנספר. בנוסף הוא אצן למרחקים ארוכים והשתתף בשישה מרוצי ריצת מרתון.