טקס הנחת אבן הפינה לבניין המזכירות התקיים ב-14 בספטמבר 1948. קונסורציום של ארבע חברות קבלניות ממנהטן ומקווינס נבחר לבנות את בניין המזכירות, כחלק מחוזה בסך 30 מיליון דולר.
בניין המזכירות כולל 39 קומות והוא הושלם ב-1952.[3] הבניין מקושר מצפון לבניין הכנסים, בו שוכנים העצרת הכללית ומועצת הביטחון, ולבניין הספרייה מדרום. בבניין המזכירות עובדים פקידים המופקדים על תפקידי הניהול של האו"ם, כולל הטיפול במטלות יומיומיות כמו כספים ותרגום. כחלק ממתחם האו"ם, הבניין כפוף להסכם בין האו"ם לבין המדינה המארחת, ארצות הברית.
בניין המזכירות של האו"ם שופץ החל ממאי 2010 ונפתח מחדש בשלבים. העובדים הראשונים נכנסו מחדש לבניין ביולי 2012.[4]
ב-29 באוקטובר 2012 הוצפו המרתפים של המתחם של האו"ם בשל הוריקן סנדי, מה שגרם לסגירה של הבניין לשלושה ימים ולהעתקה של כמה מהמשרדים.[5]
