במהלך שנת 1945, הוצעו על ידי הצבא, הצי והמטות המשולבים תוכניות ספציפיות להקמת מחלקת ההגנה. בהודעה מיוחדת לקונגרס ב-19 בדצמבר 1945, הציע הנשיא הארי טרומן ליצור מחלקה מאוחדת להגנה לאומית. ההצעה הוגשה לקונגרס באפריל1946, אבל עוכבה בשימוע על ידי הוועדה לענייני הצי ביולי 1946, שהעלתה התנגדויות לריכוז הכוח במחלקה אחת. לבסוף, הציע טרומן הצעת חוק חדשה לקונגרס בפברואר 1947, שדן בה וביצע בה שינויים במשך מספר חודשים.
מחלקת ההגנה הוקמה ב-1947 על ידי יצירת מוסד להגנה לאומית עם מזכיר אחד כראש המחלקה שישלוט על מחלקת המלחמה (נוסדה בשנת 1789) ומחלקת הצי (נוסדה בשנת 1798 והחליפה את "חבר האדמירלים" שנוסד בשנת 1780). מחלקת חיל האוויר הוקמה גם היא כשירות חדש באותו זמן (היא הייתה חלק ממחלקת המלחמה כיוון שחיל האוויר האמריקני הונהג על ידי אדמירל חמישה כוכבים), ונעשתה לחלק ממחלקת ההגנה. המחלקה נועדה להפחית יריבות בין השירותים השונים שנחשבה כגורם שפגע ביעילות הצבאית האמריקנית במהלך מלחמת העולם השנייה.
ב-26 באפריל 1947 חתם טרומן על חוק הביטחון הלאומי של 1947, להקמת "המוסד הצבאי הלאומי" (National Military Establishment) שהחל לפעול ב-18 בספטמבר 1947, יום לאחר שסנאט ארצות הברית אישר את מינויו של ג'יימס פורסטל כמזכיר ההגנה הראשון. למוסד היו את ראשי התיבות האומללים "NME" (כאשר ההגייה היא כמו enemy - "אויב"), ושמה שונה ל"מחלקת ההגנה" (ובקיצור DOD או DoD) ב-10 באוגוסט1949; בנוסף, ניתנה למזכיר ההגנה סמכות נוספת על שלוש הזרועות של הכוחות המזוינים (צבא, צי, וחיל האוויר).
לפני הקמת המוסד הצבאי הלאומי, הכוחות המזוינים של ארצות הברית היו נפרדים למחלקות שונות ברמת הקבינט ללא סמכות מרכזית אחת. חיל הנחתים האמריקני נשאר כגוף נפרד תחת מחלקת הצי, ומשמר החופים נשאר במחלקת האוצר ואחר כך במחלקה לביטחון המולדת, מוכן למעבר למחלקת הצי במהלך מלחמה מוכרזת (כפי שהיה בשתי מלחמות העולם).
ארגון
מחלקת ההגנה ממוקמת בפנטגון במחוז ארלינגטון, וירג'יניה, מחוץ לוושינגטון הבירה, לאורך נהר הפוטומק. היא כוללת את הצבא, הצי, חיל האוויר, חיל הנחתים, כמו גם סוכנויות לא קרביות כגון הסוכנות לביטחון לאומי והסוכנות למודיעין צבאי. התקציב השנתי של מחלקת ההגנה היה בקירוב 425 מיליארד דולרים ב-2006. סכום זה לא כולל עשרות מיליארדים בתקציבים נוספים (supplemental) שאושרו על ידי הקונגרס במהלך השנה, במיוחד עבור המלחמה בעיראק. ואינו כולל גם את ההוצאות של מחלקת האנרגיה על תכנון ובדיקת כלי נשק גרעיניים.
המבנה הפיקודי של מחלקת ההגנה מוגדר על ידי חוק גולדווטר-ניקולס משנת 1986. לפי החוק, שרשרת הפיקוד יורדת מנשיא ארצות הברית, דרך מזכיר ההגנה, אל המפקדים של הפיקודים הקרביים המאוחדים (COCOM) המפקדים על כל כוחות הצבא הנמצאים בתחום אחריותם. יושב ראש המטות המשולבים והמטות השונים אחראים על מוכנות הכוחות המזוינים של ארצות הברית ומשרתים כיועצים הצבאיים של הנשיא, אך אינם בשרשרת הפיקוד. על פי החוק יושב ראש המטות המשולבים הוא הקצין הבכיר ביותר בכוחות המזוינים של ארצות הברית.
בזמן מלחמה, יש למחלקת ההגנה סמכות גם על משמר החופים; בזמן שלום, הסוכנות הזאת נמצאת בשליטת המחלקה לביטחון המולדת (DHS). לפני הקמת ה-DHS (לאחר פיגועי 11 בספטמבר), היה משמר החופים כפוף למחלקת התחבורה ולפני כן למחלקת האוצר. לפי הקודקס האמריקני, משמר החופים נחשב באופן קבוע כאחד מחמשת השירותים המזוינים של ארצות הברית. בזמן מלחמה מוכרזת (או לפי הוראה מהקונגרס), פועל משמר החופים כחלק מהצי; השירות לא היה תחת חסות הצי מאז מלחמת העולם השנייה, אולם חייליו שירתו במלחמות ובעימותים מאז בעוד שהשירות עצמו לא הועבר לצי.
התקציב
תקציב בסיס זה התקציב לפני בונוסים מיוחדים שהמחלקה מקבלת, שנועד למימון הרכש השגרתי, המשכורות והפנסיה ובעצם התפקוד ה'רגיל' של המחלקה.
מחלקה ההגנה, בשל חשיבותה, מקבלת לא מעט כספים שנועדו למימון 'פרויקטים מיוחדים' (לרוב, פיתוח נשק וכלי לחימה), מבצעים שלא תוכננו מראש ויש להם חשיבות גבוהה (ולכן לא נכללים בתקציב הבסיסי). בנוסף, בזמן מלחמה המחלקה מקבלת בונוסים.
בשנת 2003 הועברה מערכת התקשורת הלאומית (National Communications System, NCS) אל המחלקה לביטחון המולדת, אולם רק לשם מטרות מנהל. מערכת התקשורת הלאומית עדיין מרכזת את פעילויותיה בתוך מחלקת ההגנה, כיוון שמשאבי האנוש הנדרשים על ידי (לדוגמה: מחלקות צבאיות) עדיין נמצאות בתחום מחלקת ההגנה, או למטרות תחזוקה שוטפת.