מקגוהן נולד בשכונת אסטוריה שברובע קווינס, ניו יורק, בנם של רוז פיצפטריק ותומאס מקגוהן, שהיגרו מאירלנד לארצות הברית.
לאחר שנולד חזרו הוריו לאירלנד. משפחתו עברה להתגורר לאחר מספר שנים בשפילד שם גם למד. הוא למד ב"מכללת רטקלייף" שבמחוז לסטרשייר, שם גם התאגרף במסגרת לימודיו. הוא עזב את הלימודים בגיל 16 וחזר לשפילד כדי לעבוד בתור מנהל במה עבור להקת התיאטרון בעיר, במסגרת העבודה החליף גם שחקנים חולים שלא יכלו להופיע.
התחלת הקריירה
מקגוהן החל את דרכו בתיאטרון וסט אנד. אורסון ולס, שהתרשם מיכולותיו על הבמה, לקח אותו למחזה שלו "חזרתו של מובי דיק". לאחר מכן הוא חתם על חוזה עם חברת ההפקה האירופאית המובילה "ראנק", שבחסותה שיחק בסרטיו הראשונים בקולנוע.
טלוויזיה
כשהשתחרר מן החוזה חזר לתיאטרון ועבד בתוכניות טלוויזיה. הוא קיבל את החותמת הרשמית על היותו אחד מכוכבי הבידור בבריטניה כשזכה בשנת 1960 בפרס באפט"א לטלוויזיה לשחקן הטוב ביותר.
מקגוהן היה לבריטי הראשון שהצליח לפרוץ אל מעבר לים ולתפוס את תשומת לבם אל צופי ומבקרי הטלוויזיה האמריקאים בהוליווד כששיחק את הסוכן החשאי ג'ון דרייק במשך שלוש עונות הסדרה "איש הסכנה". הסדרה לא זכתה בתחילה להצלחה הראויה לה ורק לאחר שזכתה למעמד קאלט בזכות השידורים החוזרים החליטו המפיקים לחזור לעוד ארבע עונות בכיכובו של מקגוהן.
מקגוהן זכה בשני פרסי אמי על תפקידי אורח שעשה עבור סדרת הדרמה "קולומבו". מקגוהן היה מעורב גם בחלק הטכני של הסדרה כשביים חמישה פרקים, כתב והפיק שניים מהם.
מקגוהן שקיבל הצעה לגלם את הדמות הראשית של המפקח קולומבו וויתר על ההצעה לטובת חברו פיטר פאלק.
מקגוהאן יצר ביחד עם ג'ורג' מרקסטיין תסריטאי "איש הסכנה" את סדרת הקאלט "האסיר" בת 17 פרקים. על אף שלא נמשכה יותר מעונה אחת, זכתה הסדרה להערצה ופופולריות עולמית ולרבות בישראל של סוף שנות ה-60.
בסדרה שיחק מקגוהן את גיבור העלילה הסוכן החשאי לשעבר מטעם ממשלת בריטניה המכונה "מספר 6" שהתפטר מתפקידו, על כך הוא נחטף לכפר מבודד ונרדף על ידי סוכני ממשל שדורשים לדעת את סיבת התפטרותו.
דמותו של "מספר 6" הפכה לפורצת דרך בז'אנר המדע בדיוני והסדרה "האסיר" הוגדרה על ידי מבקרי קולנוע בעולם כאחת הסדרות הטובות אי פעם.
קולנוע
מקגוהן חילק את הקריירה הקולנועית שלו לתקופות ולא הופיע בתדירות למשך שנים.
את דרכו בקולנוע התחיל בדרמת המרדפים הבריטית "נהגי הגיהנום".
לאחר שדחה את תפקיד ג'יימס בונד (שניתן במקום לרוג'ר מור) התפרסם לראשונה בהוליווד בסרט האקשן "תחנת זברה אינה עונה" בתור סוכן המודיעין של ה-SIS דייוויד ג'ונס.
הופיע במותחן האימה הפסיכולוגי מהטובים והמוערכים ביותר של דייוויד קרוננברג "שלטון המוח", בסרט גילם את דמותו של ד"ר פול רות' אביהם של שני סורקי המוח קאמרון וויל ודאריל ריווק.
הדמות הקולנועית המזוהה עם מקגוהן יותר מכל הייתה דמות מלך אנגליה הזקן והאכזר אדוארד הראשון "ארוך הרגליים" בסרטו של מל גיבסון "לב אמיץ".
מקגוהן היה נשוי במשך למעלה מ-40 שנה לשחקנית ג'ואן דרומונד והיה אב לשלוש בנות, אחת מהן היא השחקנית קת'רין מקגוהן.
מקגוהן נפטר בתחילת 2009 ממחלת הסרטן במרכז הרפואי סנט ג'ון שבסנטה מוניקה. על פי צוואתו הוא לא נקבר, וגופתו נשרפה.