גיל נולד בשכונת נחלאות בירושלים ירושלים בשם יעקב מזרחי למשפחה מרובת ילדים שמוצאה מעיירה שסמוכה לאתר העיר העתיקה אור מיהדות אורפה. שם המשפחה המקורי היה מזרחי, אבל במשפחה דבק הכינוי גולה (נמוך, בערבית), כי כולם היו קטני-קומה. כמה מבני המשפחה הפכו את שם משפחתם לגילה, אחרים קיצרו לגיל.
אב המשפחה, יוסף מזרחי (אבו סלים), היה קבלן בניין וצינורות שבנה את בתי הקולנוע קולנוע אדיסון וקולנוע אוריון. האב נחשב לפעיל ציוני, איש ההגנה, שעזר להעלות יהודים מאורפה, חלב ודמשק. אם המשפחה, רחל דיש, התחתנה עם אביו בגיל 13 בעיר אורפה.
גיל למד במוסד החינוכי "בית אלפא" והיה חבר תנועת השומר הצעיר. בשירותו בצה"ל היה בנח"ל ולאחר שחרורו, בשנת 1952, הצטרף לקיבוץ מגידו, בו היה חבר עד שנת 1954.
גיל למד עבודה סוציאלית. בשנת 1965 החל לעבוד בעיריית ירושלים, בה עבד עד שנת 1983. בין השאר הקים גיל את מחלקת נוער, ספורט וחברה של העירייה[1], והיה יו”ר ארגון עובדי הנוער והחברה בישראל. בנוסף לכך, הוא פעל במוסדות המועצה לקשרים בינלאומיים לנוער וצעירים. במסגרת עבודתו דאג להוציא קרובי משפחה שלו במשלחות של העירייה לחוץ לארץ, דבר שעורר עליו ביקורת בעיתונות ועל ידי מבקר העירייה[2].
בשנת 1964 הצטרף למפא"י ומילא בה תפקידים מגוונים. הוא היה חבר לשכת מחוז ירושלים של המפלגה, יו”ר אגף הנוער של מרכז המפלגה ויו”ר מועצת מחוז ירושלים. כמו כן מונה לחבר ועדת ראש הממשלה לילדים ולנוער במצוקה.