גוסב גדל במחלקת הנוער של המועדון ממחוז הולדתו, ספרטק סמי. את הקריירה המקצוענית שלו הוא החל בקבוצת ארסנל קייב בשנת 2002, בגיל 19. הוא שיחק בארסנל קייב במשך עונה אחת, וכבש במדי הקבוצה שער אחד ב-23 משחקים.
בקיץ 2003 עבר גוסב למועדון הצמרת האוקראיני דינמו קייב. כבר בעונת הבכורה שלו בדינמו, עונת 2003/2004, הוא כבש שבעה שערים במסגרת ליגת העל האוקראינית וסייע לקבוצתו לזכות באליפות אוקראינה, שהייתה התואר הראשון בקריירה שלו. במסגרת משחקיו בדינמו קייב הוא השתתף בעונה זו לראשונה בליגת האלופות, וכבש שער אחד במסגרת המפעל, שבו קבוצתו לא צלחה את שלב הבתים.
בעונת 2004/2005 המשיך גוסב להיות שחקן חשוב בדינמו, כאשר כבש שלושה שערים. הוא זכה עם הקבוצה בעונה זו בגביע האוקראיני, אף שקבוצתו איבדה את האליפות לשחטאר דונצק. בעונה הבאה הוא זכה עם דינמו בגביע אוקראיני שני ברציפות, וכבש שבעה שערים בכל המסגרות, אחד מהם בהפסד במוקדמות ליגת האלופות לת'ון.
לאחר ששיחק בהצטיינות במדי נבחרת אוקראינה במונדיאל 2006, היה גוסב מבוקש על ידי קבוצת אולימפיק ליון הצרפתית, אך נשיא המועדון סירב לשחררו, בטענה שיחד עם ארטיום מילבסקי ורוסלאן רוטאן הוא אחד משחקני העתיד של דינמו. גוסב המשיך להפגין יכולת טובה בעונת 2006/2007, כאשר כבש ארבעה שערי ליגה וזכה עם דינמו באליפות השנייה שלו. באותה עונה הוא זכה עמה גם בגביע האוקראיני, וכך השלים דאבל ראשון בקריירה.
בעקבות יכולתו בשנים אלו, הפך גוסב לאחד משחקני הקישור הבולטים בכדורגל האוקראיני, על אף גילו הצעיר יחסית. עם זאת, פציעה קשה במהלך עונת 2007/2008 גרמה לו להחמיץ את כל שארית משחקי העונה, והשביתה אותו גם לתוך העונה שלאחר מכן, עד שחזר לשחק בנובמבר 2008. לאחר חזרתו, זכה גוסב עם דינמו קייב באליפות השלישית שלו ב-2009, והעפיל עמה באותה עונה עד לחצי גמר גביע אופ"א.
גוסב היה שותף לזכייתה של הקבוצה באליפות אוקראינה בעונות 2014/15 ו-2015/16 ובגביע האוקראיני בעונות 2013/14 ו-2014/15.
ב-17 בדצמבר 2016 הודיעה הנהלת דינמו קייב כי לא תחדש את חוזהו של אולג גוסב. ביוני 2017 חתם גוסב על חוזה חדש בדינמו למשך שנה אחת.
נבחרת לאומית
גוסב החל לשחק בנבחרת הלאומית של אוקראינה בשנת 2003, ומאז הפך לאחד מהקשרים הפותחים הקבועים של הנבחרת. הוא מחזיק ב-50 הופעות ושישה שערים במדיה.
גוסב היה שותף להעפלה הראשונה בתולדות נבחרת אוקראינה למונדיאל 2006, ובכך היה זה גביע העולם הראשון בקריירה שלו. הוא אף כבש שער בניצחון 0-3 על טורקיה במשחקי המוקדמות, שהיה שער הבכורה שלו בנבחרת. במונדיאל עצמו, סייע גוסב לאוקראינה להעפיל עד לרבע הגמר, שם הפסידה לנבחרת איטליה. בדו-קרב בעיטות העונשין בשלב שמינית הגמר מול נבחרת שווייץ, הבקיע גוסב את הפנדל שהכריע את המשחק.
גוסב שיחק בקביעות בנבחרתו גם במוקדמות יורו 2008, וכבש ארבעה שערים במסגרת המשחקים, בהם צמד שערים בניצחון 0-5 על איי פארו. עם זאת, הקמפיין היה כושל עבור אוקראינה, שסיימה במקום הרביעי בלבד בביתה ולא הצליחה להעפיל לאליפות אירופה. במוקדמות מונדיאל 2010 הוא המשיך להיות חבר בסגל הנבחרת.
תארים
דינמו קייב
אליפות אוקראינה: 2003/04, 2006/07, 2008/09, 2014/15, 2015/16