בשנת 1972 ערך גרגורי את הופעת הבכורה שלו בקבוצת הבוגרים של נורת'האמפטון טאון, ששיחקה אז בליגת המשנה האנגלית. במשך חמש עונות שיחק עבור נורת'האמפטון וכבש שמונה שערים ב-187 משחקים. ב-1977 נקנה על ידי אסטון וילה מהפרמייר ליג, במדיה זכה להצלחה רבה עם עשרה שערים ב-65 משחקים בשתי עונות בקבוצה.
ב-1979 עבר לברייטון אנד הוב אלביון, לה זו הייתה העונה הראשונה בפרמייר ליג, לאחר שהעפילה מליגת המשנה בעונה הקודמת. בברייטון כבש גרגורי שבעה שערים ב-72 הופעות, אך עזב אותה לאחר שנתיים ושוב ירד לליגת המשנה וחתם בקווינס פארק ריינג'רס, במדיה הגיע לשיאו. כבר בעונתו הראשונה בקבוצה, הוביל אותה לגמר גביע ה-FA, שם הפסידה לטוטנהאם הוטספר. בעונתו השנייה בקווינס פארק הבקיע 15 שערים ב-42 הופעות והוביל את הקבוצה לזכייה באליפות ליגת המשנה ולהעפלה לפרמייר ליג. לאחר עונה זו זומן לראשונה לסגל נבחרת אנגליה וערך שש הופעות במדיה.
בעונת 1983/1984 הוביל את קווינס פארק לאחד מהישגיה הגדולים ביותר, כאשר הקבוצה סיימה את העונה במקום החמישי בליגה והעפילה לגביע אופ"א, ממנו הודחה בסיבוב השני על ידי פרטיזן בלגרד. עונת 1984/1985 לא הייתה טובה עבור גרגורי, הן מבחינה אישית והן מבחינה קבוצתית. על אף שכבש חמישה שערים ב-37 משחקי ליגה, לא הצליח להפגין את היכולת שאפיינה אותו בשנים קודמות וקבוצתו הידרדרה עד למקום ה-19, כאשר היא מבטיחה את הישארותה בליגה רק במחזור הסיום. בעונה שלאחר מכן המשיך להידרדר ביכולתו ושותף רק ב-11 משחקים במשך העונה כולה ולא כבש אף לא שער אחד. בעקבות זאת, עזב את קווינס פארק וחתם בדרבי קאונטי שבעבר זכתה פעמיים באליפות הפרמייר ליג, אך הידרדרה עד לליגה השלישית.
כבר בעונתו הראשונה בדרבי היה גורם משמעותי בקבוצה ועם ארבעה שערים ב-22 משחקים הוביל אותה להעפלה לליגה השנייה. בעונה שלאחר מכן המשיך להפגין יכולת מצוינת ועם 12 שערים ב-42 משחקים הוביל את קבוצתו להעפלה לפרמייר ליג ובכך להשלים שנתיים רצופות שבהם מעפילה דרבי מהליגה השלישית לליגה הראשונה.
בעונת 1987/1988 הוביל את דרבי להישארות בליגה עם 43 נקודות שמיקמו אותה במקום ה-15, נקודה אחת בלבד יותר מצ'לסי שירדה לליגה השנייה. לאחר עונה זו הודיע גרגורי על פרישתו ממשחק פעיל כשלזכותו 22 שערים ב-103 משחקים במדי דרבי.
ב-17 בינואר1989 פצח גרוגורי בקריירת אימון כאשר מונה לתפקיד מאמן קבוצת פורטסמות' מליגת המשנה, אך שוחרר כשנה לאחר מכן בעקבות מאזן גרוע של 10 ניצחונות בלבד ב-50 משחקים כמאמן הקבוצה. לאחר מכן חזר לשחק והופיע עוד שלוש פעמים במדי פליימות' ארגייל ושבע פעמים במדי בולטון וונדררס לפני שפרש סופית מהמשחק.
קריירה כמאמן
לאחר פרישתו השנייה החל גרגורי לתפקד כעוזר המאמן של בריאן ליטל, תחילה בלסטר סיטי ולאחר מכן באסטון וילה. בספטמבר1996 מונה למאמן קבוצת ויקומב וונדררס. ויקומב שלפני מינויו של גרגורי הייתה אחת הקבוצות הגרועות בליגה האנגלית השלישית השתפרה משמעותית עם הגעתו והפכה לקבוצת אמצע טבלה יציבה. עם זאת, הקבוצה הושפלה בגביע ה-FA 1998, כאשר הודחה כבר בסיבוב הראשון על ידי באסינגסטוק טאון. בפברואר 1998 שב לאסטון וילה, הפעם כמאמן הראשי של הקבוצה. גם בווילה חולל שינוי גדול והקבוצה סיימה את העונה במקום השביעי והעפילה לגביע אופ"א, ממנו הודחה כבר בסיבוב השני על ידי סלטה ויגו. את העונה הבאה פתחה הווילה בצורה מצוינת ובאמצע העונה דורגה ראשונה בפרמייר ליג. אף על פי כן, יכולת רעה במיוחד בחצי השני של העונה הורידו אותה עד למקום השישי, מרחק 22 נקודות מהאלופה מנצ'סטר יונייטד. עונת 1999/2000 הייתה עונת השיא של הווילה בתקופת גרגורי, היא הגיעה עד לגמר גביע ה-FA, שם הפסידה לצ'לסי וסיימה במקום השישי בליגה, ממנו העפילה למשחקי גביע האינטרטוטו, בו הגיע עד לחצי הגמר. בעונה שלאחר מכן הידרדרה הקבוצה למקום השמיני בליגה, אך בכל זאת העפילה לגביע האינטרטוטו, וזו הפעם אף זכתה בו לאחר ניצחון בגמר על פ.צ. בזל.
בינואר2002 הודיע גרגורי על עזיבתו לאחר ארבע שנים בווילה, ומספר שבועות לאחר מכן חתם בקבוצת התחתית דרבי קאונטי. שני ניצחונות ותיקו נגד מנצ'סטר יונייטד מיד עם הגעתו של גרגורי העלו את דרבי מעל ל"קו האדום", אך שבעה הפסדים בשמונת מחזורי הסיום הורידו את הקבוצה למקום ה-18, ממנו ירדה לליגת המשנה. גם בעונה הבאה לא זכה להצלחה רבה והוביל את דרבי למקום ה-18 בליגת המשנה, מרחק 6 נקודות בלבד מירידה לליגה השלישית. לאחר שנתיים לא מוצלחות, לקח גרגורי הפסקה של שלוש שנים בהן לא אימן אף קבוצה.
בספטמבר 2006 שב לאמן וחתם לעונה אחת בקווינס פארק ריינג'רס, במדיה הגיע לשיאו כשחקן. בקווינס פארק החליף את גרי ודוק, אשר הוביל את הקבוצה לתחתית ליגת המשנה. גרגורי הביא לשינוי משמעותי ביכולת הקבוצתית של קווינס פארק והקבוצה סיימה את עונת 2006/2007 במקום ה-18 עם 53 נקודות, כאשר היא מבטיחה את הישארותה בליגה כבר מספר מחזורים לסיום. לאחר עונה זו שוב פרש זמנית ושב לאמן בדצמבר2009, כאשר החליף את אלי מחפוד במכבי אחי נצרת הישראלית.
באחי, שלפני הגעתו של גרגורי הייתה הקבוצה הגרועה בליגת העל, הפך גרגורי לאחד המאמנים המוערכים בישראל, בעיקר בזכות עבודה שקטה, הסתפקות בתקציב נמוך וסגל שחקנים בינוני, ולחימה עיקשת על ההישארות בליגה. הלחימה בסופו של דבר לא צלחה, ואחי ירדה לליגה הלאומית. עם זאת, גרגורי קנה לעצמו שם של מאמן שקול ומנוסה ולקראת עונת 2010/2011 מונה למאמן קבוצת מועדון ספורט אשדוד. גרגורי התפטר מהקבוצה עם סיום הסיבוב השני, עקב חוסר הצלחתה תחת הדרכתו. לאחר מכן אימן תקופה קצרה את קבוצת קאיראט אלמטי מקזחסטן.
