יפס התחיל לשחק ב-1994 בקבוצת קורטולואה הקולומביאנית, בהתחלה בתור חלוץ, עד שמאמן הקבוצה העביר אותו לעמדת הבלם. לאחר ארבע שנים בקורטולואה, חתם יפס בקבוצה הקולומביאנית הבכירה דפורטיבו קאלי. הוא זכה איתה באליפות, והקבוצה סיימה כסגנית גביע הליברטדורס של שנת 1999. לאחר מכן הוא הצטרך לקבוצת ריבר פלייט הארגנטינאית, שם זכה להצלחה רבה וזכה עם הקבוצה ב-2 אליפויות.
הצלחתו בארגנטינה הביאה להתעניינות בו מצד קבוצות מאיטליה ומאנגליה, אך בינואר 2002 החליט יפס לחתום באלופת הליגה הצרפתית באותו זמן, נאנט. בקבוצה יפס קיבל את הכינוי El Rey ("המלך" בספרדית). לאחר שהסתגל לסגנון המשחק האירופאי, יפס הפך לאחד הבלמים הטובים בליגה הצרפתית. הוא ערך את הופעת הבכורה שלו בליגת האלופות עם נאנט, והקבוצה הצליחה להעפיל לשלב הבתים השני במפעל. בשנת 2004 חתם במועדון הפאר פריז סן-ז'רמן, שבו קיבל את הכינוי "סופר מריו" בגלל היכולות ההגנתיות הטובות שהציג. בסן-ז'רמן יפס שיחק במשך ארבע עונות, וזכה עם הקבוצה בגביע הצרפתי ב-2006, ובגביע הליגה הצרפתי ב-2008. לאחר מעל 100 משחקים עם סן-ז'רמן בליגה הצרפתית, יפס עבר לאיטליה כשחתם בקיץ 2008 בקייבו ורונה מהליגה האיטלקית הבכירה.
ב-1 ביולי2010 הכריז אדריאנו גליאני, מנהל הקבוצה וסגן הנשיא של מילאן, שיפס אמור להצטרף לקבוצה במקומו של ג'וזפה פאבאלי שפרש. את משחק הבכורה שלו במדי מילאן, ערך יפס ב-7 בנובמבר 2010 במשחק חוץ נגד בארי שהסתיים בתוצאה 3-2 למילאן. בעונת 2010/2011 יפס שיחק בליגה בעיקר כמחליף של טיאגו סילבה ואלסנדרו נסטה, ועזר לה לזכות באליפות ובסופר קאפ האיטלקי. ב-15 בפברואר2011 הוא שיחק עם מילאן במשחק הראשון של שמינית גמר ליגת האלופות נגד טוטנהאם, וכמעט כבש בנגיחת ראש, אך מילאן הפסידה 1-0 ובהמשך הודחה מהמפעל[1]. ב-23 באוקטובר2011, הבקיע יפס את השער היחיד שלו במדי מילאן בליגה האיטלקית, כשכבש שער נגיחה בדקה ה-83 נגד לצ'ה, שער ניצחון שהשלים מהפך של מילאן לאחר שהייתה בפיגור של שלושה שערים, ולאחר שהשוותה משלושער של קווין-פרינס בואטנג[2]. במאי 2012 יפס האריך את חוזהו במילאן לעונה נוספת, אך בסוף עונת 2012/2013 ביקש לעזוב כדי לצבור דקות משחק רבות יותר בקבוצה אחרת, לקראת משחקי מונדיאל 2014 עם נבחרתו קולומביה. יפס חתם באטלנטה לעונת 2013/2014, והופיע במדיה 24 פעמים בליגה.
בספטמבר 2014, אחרי שנים רבות באירופה, חזר יפס לאמריקה הדרומית כשחתם בסן לורנסו הארגנטינאית, אלופת הליברטדורס[3]. יפס שיחק במועדון עונה אחת ובינואר 2016 הודיע על פרישה ממשחק פעיל.
נבחרת קולומביה
יפס ערך את הופעת הבכורה שלו בנבחרת קולומביה בפברואר 1999 במשחק ידידות נגד גרמניה, ומאז הופיע בנבחרת עוד 101 פעמים, מה שהופך אותו לשחקן הקולומביאני עם מספר ההופעות הגבוה ביותר בנבחרת אחרי קרלוס ולדרמה (111 הופעות) ולפני לאונל אלברס (101 הופעות). בשנת 2001 יפס היה חלק מסגל הנבחרת שזכתה בקופה אמריקה 2001 שהתקיים בקולומביה. הוא הופיע עם הנבחרת גם בקופה אמריקה של השנים 1999, 2007 ו-2011. הוא סיים עם קולומביה במקום הרביעי בגביע הקונפדרציות 2003 ואף כבש שער מול ניו זילנד. במהלך כל השנים הללו הוא נכשל להעפיל עם קולומביה לגביע העולם. במוקדמות מונדיאל 2014 יפס פתח בהרכב הנבחרת ב-12 משחקים מתוך 16, ובמחזור האחרון של המוקדמות ב-15 באוקטובר 2013, כבש צמד בניצחון החוץ של קולומביה 1-2 על פרגוואי שבסיומו העפילה הנבחרת למונדיאל לאחר היעדרות של 16 שנה.
ב-14 ביוני2014 יפס עשה את ההופעה הראשונה שלו בגביע העולם, כשפתח בהרכב קולומביה בניצחון 0-3 על יוון במסגרת שלב הבתים של מונדיאל 2014. יפס ציין את משחקו ה-100 בנבחרת בניצחון של קולומביה 1-2 על חוף השנהב במשחק השני של שלב הבתים[4]. הוא פתח בהרכב הנבחרת גם בשמינית הגמר בניצחון 0-2 על אורוגוואי, ובמשחק רבע הגמר מול ברזיל שבו קולומביה הפסידה 2-1 והודחה, אך זהו היה הישג השיא בתולודותיה של קולומביה במסגרת גביע העולם. יפס היה שחקן השדה המבוגר ביותר ששיחק במונדיאל זה, והשחקן השני המבוגר ביותר ששיחק בכלל במונדיאל אחרי חברו לנבחרת, השוער פאריד מונדראגון[5].
קריירת אימון
באפריל 2016 הוצג יפס כמאמנה של דפורטיבו קאלי הקולומביאנית.