טרטיאק התלבט בילדותו בין מספר סוגי ספורט, כאשר בעקבות אחיו נמשך בעיקר לשחייה, אולם בגיל 11 התקבל לבית הספר לספורט של אגודת צסק"א מוסקבה בעקבות אהבתו להוקי קרח, למרות שלא שיחק את המשחק לפני כן. את הבחירה בתפקיד השוער, שלא היה לרוחו, עשה לאחר שאף ילד אחר לא הסכים לעמוד בשער ואחרי שהובטחה לו חולצה של קבוצת הבוגרים של קבוצת ההוקי קרח הבוגרת של האגודה.
קריירה בינלאומית
ב-1971, כשוער הקבוצה הבוגרת של צסק"א, כבר הפך טרטיאק לשם דבר בברית המועצות כאשר נבחר לשישיית העונה של הליגה והפך לשוער הראשון של נבחרת ברית המועצות – הנבחרת הטובה ביותר בעולם באותה תקופה. בתחילת 1972 השתתף עם הנבחרת באולימפיאדת החורף בסאפורו, יפן ועזר לה לזכות במדליית הזהב. בהמשך אותה שנה השתתף באירוע מכונן בתולדות ההוקי קרח העולמי, סדרת הפסגה נגד נבחרת קנדה שהורכבה משחקני NHL, ובעקבות הצטיינותו בסדרה הפך לשם דבר גם בצפון אמריקה.
בעקבות ההופעה המשכנעת שלו בסדרה ניסו מספר קבוצות NHL להעביר אותו לשורותיהן, אולם שלטונות ברית המועצות מנעו זאת ממנו.
ברמת המועדונים זכה טרטיאק בתואר שוער העונה של הליגה הסובייטית במשך 14 שנה ברציפות, עד פרישתו ב-1984. ב-12 מתוך 14 העונות זכתה צסק"א באליפות ברית המועצות.
בנוסף להצטיינותו באליפויות בינלאומיות עבור נבחרת ברית המועצות, תרם טרטיאק תרומה גדולה לשיתוף הפעולה שהלך והתהדק בין ההוקי הבינלאומי ל-NHL – שיתוף פעולה שהיה תוצאה של סדרת הפסגה מ-1972. בסוף 1975 ותחילת 1976 השתתף עם צסק"א מוסקבה בסדרת משחקים מול קבוצות מצמרת ה-NHL, ועזר לקבוצתו להרשים עם ניצחונות על ניו יורק ריינג'רס ובוסטון ברואינס, ותיקו מול מונטריאול קנדיאנס. רק אלופת ה-NHL, פילדלפיה פליירס, ניצחה את צסק"א.
ב-1976 השתתף טרטיאק עם נבחרת ברית המועצות במהדורה הראשונה של גביע קנדה, והשתתף שוב במפעל ב-1981 כאשר הוא מוביל את נבחרת ברית המועצות לזכייה.
על תרומתו הרבה לענף ולנבחרת ברית המועצות זכה טרטיאק ב-1978 בעיטור הגבוה ביותר שהיה נהוג בברית המועצות – עיטור לנין.
ב-1984, למרות שהיה בן 32 בלבד ובשיא כושרו, החליט טרטיאק לפרוש ממשחק. עד היום לא ברורה לחלוטין הסיבה לפרישתו המוקדמת, אולם חוסר הכימיה שלו עם מאמן הנבחרת ויקטור טיחונוב – שהיה גם מאמנו בצסק"א מוסקבה – היה כבר לעובדה ידועה, לאחר שטרטיאק מתח על המאמן ביקורת פומבית על שהחליף אותו במשחק ה"נס על הקרח" שבו הפסידה הנבחרת לנבחרת ארצות הברית באולימפיאדת לייק פלאסיד (1980). טרטיאק הצהיר שהוצאתו גרמה להפסד הסנסציוני ועלתה לנבחרת בהפסד מדליית הזהב. ההשערה הרווחת הייתה שחוסר הכימיה עם טיחונוב, בצוותא עם התסכול על שנמנע ממנו לצאת ולשחק ב-NHL לאחר שנבחר רשמית בדראפט על ידי מונטריאול קנדיאנס, תרמו להחלטת הפרישה.
לאחר הפרישה
לאחר פרישתו, ועם מדיניות הפתיחות ולאחר מכן הפירוק של ברית המועצות, יכל טרטיאק לחלק את חייו שאחרי הפרישה בין רוסיה וצפון אמריקה.
את החיזוק הגדול ביותר לשם שעשה לעצמו בצפון אמריקה קיבל ב-1989 כשנבחר להיכל התהילה של ההוקי – השחקן הסובייטי הראשון שזכה לכבוד זה. עד היום הוא אחד משלושת השחקנים היחידים (האחרים הם חבריו לנבחרת ברית המועצות ולרי חרלמוב ואלכסנדר יקושב) שנבחרו להיכל התהילה למרות שלא שיחקו מעולם ב-NHL.
ב-1990 זכה להגיע ל-NHL, כמאמן השוערים של שיקגו בלאקהוקס. למעשה, לאור היכולת שהפגין כשהתאמן יחד עם שוערי הקבוצה, הציעה לו הקבוצה לחזור בו מפרישתו ולהצטרף אליה כשחקן על אף גילו המתקדם והזמן הרב שחלף בלא ששיחק בצורה סדירה. טרטיאק דחה את ההצעה.
במקביל לתפקידיו, מנהל טרטיאק מספר בתי ספר להוקי ברוסיה ובקנדה. בתי הספר שלו ידועים ברמתם הגבוהה ובדרישות הפיזיות הקפדניות, ומספר שוערי NHL עברו כתלמידים בבתי הספר שלו במונטריאול ובטורונטו.
בנוסף לעיטורים שזכה בהם בברית המועצות זכה טרטיאק גם בעיטור כבוד בקנדה, על ייסוד אגודת הידידות רוסיה-קנדה.
מספר שוערי NHL בעבר ובהווה בחרו לשחק עם החולצה מספר 20, מספר החולצה של טרטיאק, כמחווה לכבודו.