האוזנר התמנה לתפקיד היועץ המשפטי לממשלה ב-1960, עם מינויו של קודמו חיים כהן לבית המשפט העליון. הוא טיפל בהצלחה בפרשיות רבות, ובראשן פרשת "העסק הביש". האוזנר הוא שחשף, באמצעות ראיון בפריז עם דליה כרמל, ששימשה מזכירתו של בנימין ג'יבלי, כי ההאשמה שהטיח בן-גוריון בפנחס לבון, כאילו לבון הוא האחראי לפרשת העסק הביש, שבה הוקמה רשת שהופעלו בה יהודים במצרים כדי לבצע פרובוקציות אנטי-אמריקניות כגון פיצוץ הספרייה האמריקנית בקהיר, הייתה עלילת שווא, שמקורה בזיוף. גילוי זה הביא לא במעט להתפטרותו של בן-גוריון מראשות הממשלה בשנת 1963, ולעלייתו של לוי אשכול לתפקיד ראש הממשלה.
במשך השנים שררה אי בהירות בסוגיית מעמדו של היועץ המשפטי לממשלה, ובפרט בנוגע לחלוקת הסמכויות בין שר המשפטים והיועץ המשפטי לממשלה, אי הבהירות בלטה במלוא חריפותה בתקופת כהונתו של האוזנר במחלוקת שהתגלעה בינו לבין שר המשפטים דב יוסף. יוסף תבע מהאוזנר להעמיד לדין את אליעזר לבנה, עיתונאי עם זיקה למפא"י, בהאשמה הקשורה כביכול בקריה למחקר גרעיני בדימונה. האוזנר סירב לבקשתו של שר המשפטים כשמצא כי אין לה בסיס עובדתי והדבר עורר משבר חוקתי בדבר עצמאותו של היועץ המשפטי לממשלה. הוויכוח בין השניים הגיע לישיבת הממשלה, כשהאוזנר ביקש שהממשלה תשמע את דעותיהם המנוגדות ותקבל החלטה בסוגיה, אך הבהיר כי ההחלטה תחייב את הממשלה ולא אותו עצמו. לעומתו הציע יוסף כי הממשלה תמנה ועדת משפטנים שתחווה את דעתה בנידון.
שני הצדדים הציגו את עמדתם: האוזנר סבר כי הוא נהנה מעצמאות בהחלטותיו בתחום הפלילי ואינו כפוף להנחיות שר המשפטים. בנוסף הביע את דעתו כי עמדת היועץ המשפטי לממשלה מדריכה את הממשלה בענייני החוק. לעומתו סבר יוסף כי היועץ המשפטי לממשלה כפוף להנחיות שר המשפטים, הנושא באחריות מיניסטריאלית על החלטותיו ואשר בכוחו ליטול לעצמו את סמכויותיו בכל עת. כמו כן סבר כי אף שיש לפנות ליועץ המשפטי לממשלה בשאלות משפטיות, מבחינה מעשית אין הממשלה חייבת לפעול לפי דעתו. לאחר שנשמעו הדעות השונות, החליטה הממשלה על פי הצעת ראש הממשלה דוד בן-גוריון, שלא להכריע בעניין מייד, ולמנות ועדת משפטנים מיוחדת שתחווה את דעתה בשאלות המשפטיות שבמחלוקת. כן הוחלט שהרכב הוועדה ייקבע במשותף על ידי שר המשפטים והיועץ המשפטי לממשלה[3].
הוועדה נקראה ועדת אגרנט על שם השופט שמעון אגרנט שעמד בראשה, ולצדו צבי ברנזון ואברהם לוין. קבעה כי האוזנר צדק בעמדתו בדבר עצמאותו של היועץ המשפטי לממשלה בתפקידו כראש התביעה, והקביעה עומדת בתוקפה עד היום ונחשבת להנחה ברורה במשפט בישראל. נקבע, כי החלטתו של היועץ המשפטי בשאלת העמדת עבריינים לדין היא עצמאית לחלוטין מעמדת הרשות המבצעת בשל היות האחרונה חשופה להטיה פוליטית[4]. עם זאת נקבע כי על היועץ המשפטי להתייעץ מעת לעת עם שר המשפטים ולמסור לו דין וחשבון על פעולותיו, וכן להתייעץ עמו או עם הממשלה בקשר למקרים בעלי משמעות ביטחונית או ציבורית[5]. עוד נקבע כי בסמכותו של שר המשפטים ליטול לעצמו את סמכויות העונשין העיקריות של היועץ המשפטי לממשלה, (אלו אשר הוענקו בראשונה לשר המשפטים)[6].
לעומת זאת, בכל הנוגע לסמכויות הייעוץ של היועץ המשפטי לממשלה, קבעה הוועדה כי
אם כי אין כל הוראה מפורשת בחוק בעניין הנדון, הרי מחייב הסדר הטוב במדינה, כי בדרך כלל תתייחס הממשלה לחוות הדעת המשפטית של מי שממלא את התפקיד של "היועץ המשפטי לממשלה", ואשר יש לו ההכשרה של שופט בית-המשפט העליון, כאל חוות-דעת המשקפת את החוק הקיים. עם זאת, רשאית הממשלה, תוך צאתה מן ההנחה האמורה, להחליט כיצד עליה לפעול במקרה המסוים לפי שיקול דעתה שלה...
באשר ליתר הרשויות השייכות לזרוע המבצעת במדינה, סבורים אנו, כי לא יכול להיות ספק בדבר כי מחובתן לראות את חוות-דעתו של היועץ המשפטי לממשלה כמדריכה בשאלות חוק ומשפט[7].
מסקנות הוועדה נתפסו כהישג של האוזנר, כיוון שצידדו בעמדתו בשאלה העיקרית שהייתה במחלוקת: סמכות היועץ בתחום הפלילי. בישיבת הממשלה שדנה באימוץ הדו"ח הביע האוזנר קורת רוח ממסקנותיו, והצהיר בנוגע לחלק הייעוץ בתפקידו כי "מעולם לא התיימרתי להכתיב לממשלה פסקים או לקבוע בשבילה את דרכה" ואף ציין כי עמדה כזו היא "מגוחכת". האוזנר תמך בהחלטת הממשלה לאמץ את המלצות הוועדה[8].
סכסוך אחר בין האוזנר לבין הממשלה היה סביב העברתו לארצות הברית של רוברט סובלן, שנחשד בארצות הברית בריגול לטובת ברית המועצות, וברח לישראל. באותה העת לא היה הסכם הסגרה בין ארצות הברית לישראל. סובלן הועלה, ללא החלטת בית משפט ובכוח, למטוס היוצא לארצות הברית שם חיכו לו סוכני הבולשת הפדרלית האמריקנית. בעת חניית ביניים בלונדון, חתך סובלן את ורידיו והתאבד. האוזנר ראה במעשה זה פעולה שלטונית בלתי חוקית והתריע כנגדה.
פעילותו של האוזנר כיועץ משפטי לממשלה, ועוד על רקע היוקרה הבינלאומית שזכה לה כתוצאה מהופעתו ההיסטורית במשפט אייכמן, היו לצנינים בעיני הממשל. בוצעו כמה מעשי פרובוקציה כנגדו, כגון כאשר בן-גוריון הקריא בישיבת בכנסת מִזכר פנימי שהאוזנר כתב אליו ובו הוזכר מנחם בגין. האוזנר התפטר מתפקידו בשנת 1963, על רקע סכסוכים בינו לשר המשפטים. כשנתיים מאוחר יותר התחיל למלא את תפקידיו כחבר הכנסת ומאוחר יותר כשר בממשלה.
גולת הכותרת של כהונת האוזנר כיועץ משפטי לממשלה הייתה הופעתו במשפטו של אדולף אייכמן ב-1961 כתובע ראשי מטעם המדינה. במהלך הכנת כתב התביעה, היה על צוות התביעה ללמוד כמות אדירה של חומר ארכיוני. האוזנר היה צריך לקרוא את הכרכים העבים של תמלילי משפטי נירנברג, להתעמק בספרות השואה, להכין את נאום הפתיחה ולשקוד על הטיעון המשפטי. לצורך כך, הסתגר במלון השרון בהרצליה במשך שישה שבועות "בבידוד גמור", עם חומר שמילא "שתי מכוניות גדושות ספרים ותיקים".[9]
המשפט, בניהולו של האוזנר, חשף את זוועות השואה לציבור בישראל, שעד אז לא הרבה לעסוק בה. אייכמן הורשע בדין ונידון למוות. זכורים במיוחד דברי האוזנר בפתיחת דבר התביעה במשפט:
”במקום זה, בו אני עומד לפניכם, שופטי ישראל, ללמד קטגוריה על אדולף אייכמן – אין אני עומד יחידי; עמדי ניצבים כאן בשעה זו שישה מיליון קטגורים. אך הם לא יוכלו לקום על רגליהם, לשלוח אצבע מרשיעה כלפי תא הזכוכית ולזעוק כלפי היושב שם׃ אני מאשים. מפני שעפרם נערם בין גבעות אושוויץ ושדות טרבלינקה, נשטף בנהרות פולין וקבריהם פזורים על פני אירופה לאורכה ולרוחבה. דמם זועק, אך קולם לא יישמע. אהיה על כן אני להם לפה ואגיד בשמם את כתב האישום הנורא”.
מאוחר יותר כתב: "רציתי שאנשים בארץ ובעולם יתקרבו באמצעות המשפט להווי של האסון הגדול". על בחירת העדים, כתב: "רציתי שיספרו על שלבי ההשמדה השונים מראשיתם, על המרכזים היהודיים הגדולים ומה שקרה בהם, על הקהילות והאנשים שניסו לעמוד באסון ועל מחנות ההשמדה עצמם. מעל לכול רציתי שאנשים ימסרו את אשר ראו בעיניהם וחזו מבשרם".[10] האוזנר סיפר שברר מתוכם את "בעלי כושר ההתבטאות" והקפיד על הפרופיל החברתי שלהם, שיכלול את "כל חלקי הציבור".[11]
שמו של האוזנר המשיך להיות קשור בהנצחת השואה שנים רבות לאחר משפט אייכמן. בין 1969 ל-1989 היה יושב ראש המועצה הבינלאומית של "יד ושם". כמו כן פרסם מספר ספרים על המשפט והשואה בתקופה המשתרעת על פני למעלה משני עשורים. בכלל זה רב-מכר באנגלית בשנת 1966 על משפט אייכמן והספר "השואה בראי המשפט" מ-1988.
פטירתו והנצחתו
האוזנר נפטר ב-15 בנובמבר 1990, הותיר אלמנה, יהודית, בתו של המו"ל הירושלמי נחום ליפשיץ. בן, עו"ד עמוס האוזנר המשמש יושב ראש המועצה הישראלית למניעת עישון ופרקליט ההסתדרות הציונית. ובת, עו"ד תמי האוזנר-רוה, יו"ר חברת החדשות, הנשואה לעו"ד יהודה רוה, בעליו של משרד עורכי הדין יהודה רוה ושות', ובעלי החברה הבונה ומפעילה את כביש האגרהכביש 6. שני ילדיו כתבו ב 2022 את הספר על אביהם: "כשאייכמן נכנס אלינו הביתה".