קרלסבורג, שהייתה במשך זמן מה בירת נסיכות טרנסילבניה, ממוקמת בשוליים הדרומיים של החבל, על הגבול העות'מאני והייתה נקודת מעבר לסוחרים יהודים שבאו מהשולטנות. זרים לא הורשו להיכנס לטרנסילבניה והמסחר איתם התנהל באזורים מתוחמים בערי גבול דוגמת סיביו, ברשוב וקרלסבורג. באחרונה, בה התנהל הסחר עם חלקי הונגריה-לשעבר שנשלטו בידי השולטן, פעלו סוחרים יהודים רבים. משלהי המאה ה-16 פעל בעיר בית דין רבני, וממנה היו מסתננים היהודים גם לתוך פנים הארץ, למרות האיסורים.
ב-18 ביוני1623 התיר נסיך טרנסילבניה, גאבור בתלן, באופן רשמי את מגורי היהודים בערי הנסיכות. אחריו ב-1653 קבע הנסיך ג'רג' ראקוצי השני שהיהודים יוכלו להתגורר רק בקרלסבורג. הם הגיעו גם למקומות יישוב אחרים, אך רק בחזקת נסבלים וללא זכויות ישיבה רשמיות. במאה ה-18 ואחר כך במאה ה-19 עד שנת 1848[1] בטרנסילבניה הייתה קהילת קרלסבורג היחידה שהוכרה רשמית, והיא ייצגה כלפי השלטונות את כל יהודי החבל, הן מנהלית והן לצורכי מיסוי.
תחילה הייתה הקהילה ספרדית, אך בהמשך, לאחר גזירות ת"ח-ת"ט, הגיעו פליטים אשכנזים מפולין. הקהל הספרדי קיים קשרים עם יהודי הבלקן ונשמע לפסקי הרבנים יצחק בן משה ולוי ירושלמי, שניהם מבלגרד. כשהקהילה גדלה בצורה שאיפשרה לה להחזיק רב במשרה מלאה, הראשון שמונה היה יוחנן בן יצחק רוסו מבלגרד. הפרנס הראשון של הקהילה, דוד בן בנימין, נולד ב-1710 במשפחה שמוצאה מפולין וכך חיו בקהילה אחת אשכנזים וספרדים. תואר אב בית דין קרלסבורג היה "רב המדינה דזיבנבירגן" (במסמכי המדינה: "הדיין הראשי של יהודי טרנסילבניה"). כשהתרבו האשכנזים, ב-1761, הביאו אלה גם רב אשכנזי מקרקוב, בנימין זאב וולף. על פי ספר התקציב יודעים שב-1744 היו באלבה יוליה שתי קהילות, אחת ספרדית ואחת אשכנזית ולכל קהילה בית הכנסת שלה והחזן שלה. הצורך לשלם במאוחד את המיסים המוטלים על היהודים הביא לכך ששתי הקהילות פעלו יחד בתחום גביית המיסים ובכל הנוגע לייצוג כלפי הסמכויות החיצוניות. ההנהגה האדמיניסטרטיבית הייתה משותפת[2]. במהלך השנים האשכנזים הפכו לרוב .
ב-1920, שנת חוזה טריאנון והסיפוח מהונגריה לרומניה, חיו בעיר ששמה שונה עתה לאלבה יוליה 1,770 יהודים מתוך אוכלוסייה כוללת של 9,645 תושבים. התחזקות התנועה הלגיונרית הביאה בהדרגה להכבדה הולכת וגדלה על חיי היהודים. ב-1938 התפוצצה פצצה בבית הכנסת המקומי, במהלך הרומניזציה הוחרם ב-1941 כל רכוש הקהילה. במהלך מלחמת העולם השנייה רוכזו באלבה יוליה כל יהודי הסביבה וכך גדל מספרם ל-2070 בשנת 1947, אך לאחר מכן ירד בהתמדה בעקבות הגירת היהודים (מרביתם עלו לישראל) וב-1990 נשארו רק כמה עשרות[3].