בן-יוסף נולד בשם באזיק כוגן באונגני, בסרביה. בשנת 1920 בגיל שלוש עשרה עלה עם משפחתו לארץ ישראל ולמד בגימנסיה הרצליה, כעבור שנתיים, משפחתו נקלעה למצוקה כספית וחזרה לבסרביה, שם סיים את לימודיו בגימנסיה הרוסית, ולאחר מכן עבר עם משפחתו לרומניה.
בן-יוסף למד הנדסה בין השנים 1924–1929 באוניברסיטת גנט בבלגיה, אך עזב את לימודיו והצטרף אל להקת תיאטרון של סטודנטים יהודים-רוסים. עם סיום לימודיו נסע בעקבות לימודי תיאטרון בהדרכתו של מקס ריינהרדט בברלין, אך בעקבות בעיות מימון, לא התקבל, לכן למד משחק תוך צפייה בהצגות תיאטרון, בד בבד למד מחול וזמרה בקופנהגן.
בן-יוסף נפטר, בגיל 73, לאחר מחלה ממושכת. הניח אחריו רעיה, השחקנית אסתר מרגלית, ושני בנים: ספי בן-יוסף ונועם, ואח, השחקן נתן כוגן. לאחר מותו ייסדה עיריית תל אביב פרס על שמו המוענק מדי שנה לאחד משחקני התיאטרון הקאמרי.
לקריאה נוספת
לאה גילולה, "חן, קלילות ומקצועיות: על השחקן אברהם בן-יוסף", במה 172 (2005), עמ' 13–32.