גילן נולד וגדל בלונדון. בשנת 1962 הצטרף ללהקה בשם The Javelins בה היה חבר עד לשנת 1964, אז חבר ללהקת Wainwright's Gentlemen בה היה חבר כשנה. בשנת 1965 החל גילן להופיע עם להקת Episode Six אותה ייסד רוג'ר גלובר, אך הלהקה לא נחלה הצלחה מרובה.
באותן השנים, השתתף גילן גם בהקלטות אלבום האולפן של ישו כוכב עליון, כשהוא משחק את תפקיד ישו. לקראת הפקת סרט הקולנוע הוצע לגילן לגלם את דמותו של ישו על המסך הרחב, אך הוא סירב מכיוון שהתפקיד דרש ממנו לבטל סיבוב הופעות מתוכנן עם הלהקה[1].
בשנת 1973, לאחר הקלטת מספר אלבומי אולפן נוספים עם הלהקה, ולאור עימותים חוזרים ונשנים בין גילן לבלקמור[2], החליט גילן לעזוב את דיפ פרפל, ובמקומו הובא דייוויד קוברדייל.
לאחר כשנתיים בהן לא עסק במוזיקה, חזר גילן וייסד הרכב חדש בשם Ian Gillan Band. הלהקה ניגנה מוזיקת ג'אז-פיוז'ן אך לא נחלה הצלחה. בשנת 1978 פירק גילן את הלהקה והקים יחד עם הקלידן קולין טאונס להקה נוספת על שמו - Gillan, אשר נטתה לכיוון ההארד רוק. הלהקה פעלה עד שנת 1982, והתפרקה לאחר פגיעה במיתרי הקול של גילן, אשר אילצה אותו לפרוש ולנוח.
בתחילת 1984 חזר גילן להרכבה של דיפ פרפל, ובאוגוסט אותה השנה הוציא עימה את האלבום Perfect Strangers אשר הפך להצלחה. גילן פוטר מהלהקה בשנת 1989 והוחלף על ידי סולן להקת ריינבו לשעבר, ג'ו לין טרנר, אך שב להרכב בשנת 1992 לאור הפצרותיהם של לורד ואיאן פייס שרצו בשובו לקראת חגיגות ה-25 שנים להקמת הלהקה.