יפה נולד בשנת 1924 בעיר בלץ שבבסרביה, אז בממלכת רומניה. אביו, המהנדס ירחמיאל יופה (רחמיל איזראילביץ' יופה) (יליד 1893) נמנה בשנות ה-30 של המאה ה-20 עם מנהיגי הקהילה היהודית המקומית ועם תומכי הציונות הרוויזיוניסטית. אמו, חיה-רחל (רחל איסקובנה) (1980-1901) ששם נעוריה היה גם כן יופה, הייתה בת למשפחת סוחרים ואנשי עסקים. אביה היה בעל בית חרושת לשמרים בסלובוזיה, בלץ. יופה עלה לארץ ישראל ב-1940, ולמד בבית הספר הריאלי שבחיפה, ומאוחר יותר באוניברסיטה העברית בירושלים. היה חבר בארגון "ההגנה" ושירת בצה"ל. ראשית כתיבתו ברומנית (1939–1940) ובעברית מ-1943, ברשימות פובליציסטיות, ביקורת ספרות, רדיו וקולנוע. היה חבר מערכת השבועון "במחנה" בין 1948 ל-1953. בתחילת שנות החמישים נמנה עם מייסדי 'המועדון לתרבות מתקדמת' ('צוותא') יחד עם אברהם שלונסקי. ספרו הראשון, "שירה ומציאות", יצא לאור בשנת 1951. כתיבתו של יפה עסקה בביקורת הספרות העברית והכללית, בעיקר הצרפתית, תוך השוואות ביניהן, וכן בתחום הקולנוע ויוצריו.
כחבר מפ"ם החל את דרכו במסגרת הביקורת 'הסוציאל-ריאליסטית' והיה מקורב ליוצרים מרכזיים מהשמאל הפוליטי, במיוחד אברהם שלונסקי ולאה גולדברג. ספריו על חייהם ועל יצירתם מבוססים על היכרות אישית עמם ועל פעילותו המתמשכת לצדם, והם משלבים 'ממוארים' עם מחקר ספרותי, מעמדה של 'צופה מעורב'. ספרים אלה הם מספרי היסוד על יוצרים אלה ועל התקופה ואווירתה.
במרכז ספריו עומדים המאבקים בין ה'חדש' וה'ישן' כחלק מהדינמיקה הידועה של חידוש ושינוי מתוך רציפות והמשך. במקביל לכתיבתו על הסופרים ועל הספרות הישראלית, חקר את תרומתם של סופרים יהודים ברומניה לספרות הרומנית, השתתף בכתיבת האנתולוגיה 'שרשים וסער, על סופרים יהודים בלשון הרומנית' (1972) ופרסם את מחקרו 'בשדות זרים' (1996).
יפה היה בעל השקפות מוצקות על הספרות הכללית והספרות העברית בת זמננו. בהקדמה לספרו "חדש מול ישן", כתב:
בדברי ימי עם ישראל ובתולדות הספרות העברית החדשה מתגלים מפקידה לפקידה אישים ויוצרים גדולים, שאינם מהלכים במשעולים סלולים ואינם נכנעים לחוקי המסורת המקובלים. הם מתבדלים, פורשים מן הכלל, סוללים לעצמם דרכים חדשות, מיוחדות. - ולימים מצטרפת דמותם ותורתם לאותו מושג כולל של 'מסורת', שאינו עשוי מקשה אחת ובתוכו אנו מוצאים יסודות מנוגדים וסותרים זה את זה. אחדותה הסופית של 'מסורת' היא פרי השלמה הדיאלקטית וההיסטורית של יסודות אלה. דמותו של ה'אחר' מוכרת לנו מימי קדם. מתוך היהדות קמו כמעט בכל הדורות מורדים, פורקי-עול, פורצי-גדר [...] פרשיות דומות התרחשו גם בספרות העברית החדשה במאתיים השנים האחרונות. רבים ממחדשי פניה נחשבו, לכל הפחות בשנות פעולתם הראשונות, ליוצאי-דופן, ורק כעבור פרק-זמן מסוים הוכרו כשייכים לרציפות ההיסטורית. ראשית כתיבתי בנושא זה נבעה מהיותי צופה בשלב אחד של מאבק כזה שנתחולל בזמנו, ומהיותי מעורב בשלב אחר של המאבק.
יפה שילב בדרכו ראייה מקיפה של הרציפות ההיסטורית של התרבות והספרות, יחד עם פתיחות גדולה לחדש ולשונה. עריכתו את "הדף לספרות" ב"על המשמר" הונעה מאמונה רבה בתפקיד הספרות בחיי הלאום ובהתפתחות התרבות. מדי שבוע דאג לשלב במוסף ספרות זרה וספרות עברית, מקור בצד תרגום, ישן וחדש. בד בבד פרסם יצירות חדשות של בני דורות ספרותיים רבים ושילב בפעולתו ראייה מקיפה של התרבות, יחד עם הקפדה על האתיקה העיתונאית ועל ערכי הלשון העברית.
בשדות זרים : סופרים יהודים ברומניה 1880–1940 (1996)
בנוסף ערך את הספרים וכתבי העת הבאים (רשימה חלקית):
'ילקוט אשל' מאמרי שלונסקי (1960),
'ספר השנה של העיתונאים' (1960 - 1963),
'מאזנים' (1973-1970),
'אמנות הבמה בישראל' (1965),
'שרשים וסער : אנתולוגיה של סופרים יהודים בלשון הרומנית', (ערוכה בידי ק"א ברתיני, אברהם בנימין יפה, דורה ליטמן-ליטאני), הוצאת עקד, תל אביב, 1972.
'מרסל ינקו / אלבום איורים', (כולל מסת מבוא), גבעתיים, 1982.
האנתולוגיה 'נכתב בתש"ח' (1989).
כן ערך בצירוף מבואות את כתביהם של סופרים, בהם מנחם מנדל פייטלסון, יעקב פיכמן, שלמה צמח, יעקב רבי ושלמה טנאי. תרגם מספריהם של רנה לאלו, אל מירודן ומיכאל סבסטיאן. תרגומו לספרו של מיכאל סבסטיאן, "נשים", יצא לאור בשנת תש"ז-1946, בעת שיפה היה בן 22.