המחוז נוסד במקור מ"הצבא הקווקזי של הצבא האדום" שהיה צבא נפרד והפך לאחר מכן, באוגוסט 1923, "צבא הדגל האדום הקווקזי". למחוז הצבאי צורפו גאורגיה, ארמניה ואזרבייג'ן וכן יחידות מהארמייה האחת עשרה של הצבא האדום.
ביולי 1936, קיבלו, המחוז ויחידותיו הצבאיות, הגדרות חדשות בהתאם לשינויים המנהליים ברחבי ברית המועצות, והפך:
דיוויזיית הרובאים ההררית ה-77 האזרית נקראה על שם אורדז'וניקידזה.
ב-22 ביוני1941, נכללו במחוז חילות הרובאים ה-3 (ה-4, ה-20 וה-47), ה-23 (דיוויזיות 136 ו-138) וה-40 (ה-9 וה-31); וכן החיל הממוכן ה-28, שכלל את דיוויזיות הטנקים ה-6 וה-54 וכן החיל הממונע ה-236 שכלל את חמש הדיווזיות העצמאיות: ה-63 ה-76 וה-77; חיל הפרשים ה-17 וה-24 ושלושה מחוזות מבוצרים. במהלך מלחמת העולם השנייה היא הפכה לחזית עבר הקווקז (Закавказский Фронт), יחידת חזית (фронт) של הצבא האדום.
עם התפרקות ברית המועצות הפך המחוז לקבוצת הכוחות הרוסית של עבר הקווקז (Группа российских войск в Закавказье -ГРВЗ). פריסת הכוחות של היחידה המנהלתית החדשה, לאחר שרבים מהיחידות שנכללו במחוז פוזרו או הפכו לחלק מהכוחות המזוינים של הרפובליקות לשעבר, באמצע שנות התשעים, הייתה:
יחידות קטנות נוספות, כולל את היחידה ה-142 לשיקום טנקים בטביליסי וטייסת הליקופטרים עצמאית
גנרל-מייג'ור אלכסנדר סטודניקין, מפקד הארמייה ה-20 של המחוז הצבאי של מוסקבה לשעבר, פיקד על קבוצת הכוחות החדשה יחד עם הגנרל אנדריי פופוב כסגנו. הבסיס הרוסי בוואזיאני פונה בסוף שנות התשעים במסגרת הסכם לפינוי כל הבסיסים בגאורגיה (הבסיסים הצבאיים ה-12 וה-62), שנערך במרץ 2005, תוכננה הוצאתם של הבסיסים הרוסיים, לא כולל את הבסיסים במחוזות הבדלניים באבחזיה ובדרום אוסטיה), עד לשנת 2008/9.
פירוק הבסיסים בגאורגיה
עם הצהרת העצמאות של גאורגיה התערבה רוסיה בסכסוכים הפנימיים של גאורגיה מול המחוזות הבדלניים. בפברואר 1993, בתקופת מלחמת אבחזיה, עמדה היחידה הממונעת ה-128 בגויומרי (הייתה קודם לכן בלנקורן), לצד כוחות הגרילה הבדלניים. עדי ראייה דיווחו כי כוחות גרילה אבחזיים שהו בבסיס הצבאי הרוסי בגודאותה, ויחידות רוסיות סייעו במלחמה כנגד גאורגיה. מאוחר יותר, באוגוסט 1995, עזר כוח שמירת השלום הרוסי לשר הממונה על הביטחון לאומי של גאורגיה, איגור גיאורגדזה, שנמלט מגאורגיה. הוא הואשם בניסיון להתנקש בנשיא הגאורגי שוורדנדזה.
הממשלה הגאורגית שראתה בכוח הרוסי בגאורגיה איום על עצמאותה, הגיעה, בפברואר 1993, להסכמה עם רוסיה על הסגת כוחותיה עד לשנת 1995. אולם שבעה חודשים לאחר מכן פתחו כוחות הנאמנים לנשיא המודח, זוויאד גמסחורדיה, הזוויאדיסטים, בהתקוממות, והשתלטו על סמגרלו, מחוז הולדתו של גמסחורדיה הגובל באבחזיה. כתוצאה מכך ביקש, בתחילת 1993, נשיא גאורגיה, אדוארד שוורדנדזה, מהארגון לביטחון ולשיתוף פעולה באירופה (OSCE) והאו"ם להציב כוחות של שמירת שלום בגאורגיה, אולם ללא הצלחה. בסתיו 1993 ניחתה על גאורגיה מתקפה מסיבית של הצבא האבחזי, שזכה כנראה לתגבור מרוסיה. כתוצאה מכך נאלץ שוורדנדזה להסכים להצעתה של רוסיה להצטרפות לחבר העמים. ב-3 בפברואר1994 חתמו בטביליסי, ילצין ושוורדנדזה, על הסכם לשיתוף פעולה צבאי. גאורגיה הסכימה להצטרף להסכם הביטחון הצבאי של חבר העמים ואיפשרה לרוסיה להותיר שלושה בסיסים על אדמתה של גאורגיה, ולהגדיל את כוח הרוסי בגאורגיה ל-25,000 איש שייפרסו על ארבעה בסיסים ברחבי המדינה.
בסוף שנות התשעים, תבעה גאורגיה שוב את הסגת הכוחות הרוסיים מגאורגיה. ב-17 בנובמבר1999 התחייבה רוסיה, בהצהרה משותפת בפיסגה של הארגון לביטחון ולשיתוף פעולה באירופה (OSCE) באיסטנבול, על הגעה להסכם על השגת כוחותיה בשנה שתבוא לאחר מכן, אולם לא עמדה בהתחייבותה. בשנת 2001, נסגרו הבסיסים בוואזיאני ובגודאותה. הבסיס בוזיאני הועבר לצבא הגאורגי, והבסיס בגודאותה (אבחזיה) הועבר למסגרת החדשה, כוח שמירת השלום הרוסי בגאורגיה.
רק ב-30 במאי2005 הסכימו שרי החוץ של רוסיה וגאורגיה, סרגיי לברוב וסלומה זוראבישווילי על נסיגה בשלבים של הכוחות הרוסיים מגאורגיה. ב-31 במרץ2006 נחתם בסוצ'י”הסכם על התנאים והכללים לתפקוד ונסיגה זמנית של הבסיסים הצבאיים של רוסיה ומתקנים צבאיים אחרים של קבוצת הכוחות הרוסית של עבר הקווקז המוצבים בתחומי גאורגיה”. על פי ההסכם התחייבה רוסיה להסיג את כוחותיה עד ל-31 בדצמבר2008.
בסופו של דבר הסיגה רוסיה את רוב כוחותיה בגאורגיה מוקדם מהמתוכנן והשאירה שני בסיסים (ה-62 באחלכלכי וה-12 בבתומי). בעקבות פרשת הריגול הרוסית בגאורגיה, מספטמבר 2006, נסגרה כמתוכנן, מפקדת קבוצת הכוחות הרוסית של עבר הקווקז, ו-287 האיש ששירתו בה עזבו את גאורגיה ב-31 בדצמבר2006. ב-1 באוקטובר2007 פונה הבסיס ה-62 באחלכלכי, והבסיס בבתומי הוצא ב-13 בנובמבר של אותה שנה. החפ"ק "זבֶבדָה", מפקדת המחוז בעת מלחמה כפי הנראה, ליד מצחתה, צפונית לטביליסי, הועבר בתחילת ספטמבר 2005.
גם לאחר שקבוצת הכוחות הרוסית של עבר הקווקז (ГРВЗ) עזבה את גאורגיה גופא, נותרו חיילים רוסים בתפקיד כוח שמירת שלום במחוזת הבדלניים, אבחזיה ודרום אוסטיה. כ-1,600 חיילים מוצבים בגבול הגאורגי-אבחזי לצד כוח המשקיפים של האו"ם בגאורגיה (UNOMIG). גדוד נוסף נמצא בדרום אוסטיה. השלטונות הרוסיים הודיעו כי הבסיס הצבאי בגודאותה משמש כבסיס של כוח שמירת השלום. אולם רוסיה סירבה לבקשות לביקור של משקיפים בבסיס.