Alois Grillmeier var sønn av bonden Joseph Grillmeier (født 1874 i Pechbrunn ved Konnersreuth; død 1943 samme sted) og hans hustru Maria født Weidner (født 1879 i Ödwalpersreuth ved Windischeschenbach; død 1941 i Pechbrunn), og hadde åtte søsken.
Jesuitt
Han trådte inn i jesuittordenen i april 1929 etter gymnasstudier i Regensburg. Han studerte filosofi i München og teologi i Tisis (Østerrike), Pullach,Valkenburg i Nederland.
Prest
Han ble presteviet 24. juni 1937 mens han studerte teologi videre i Frankfurt am Main. Han studerte også i Innsbruck (jesuittene ble utvist av nazistene fra Tyskland i oktober 1939). Etter studier i Roma fikk han doktorgraden i februar 1942 fra Universitetet i Freiburg.
Han ble innkalt til militærtjeneste i den tyske hær få uker etter prestevielsen i 1942, men kastet ut i april 1944 ("jesuitter uverdige til å forsvare fedrelandet"). Etter krigen underviste han ved flere av jesuittenes læresteder i det tyskspråklige område, og var med på Annet Vatikankonsil1962–1965 som teologisk ekspert. Han var flere ganger i Zambia og Malawi for å kurse misjonærene der i Det annet Vatikankonsils dekreter og konstitusjoner.
Grillmeier ble kjent ved annet Vatikankonsil, der han var teologisk rådgiver til biskop Wilhelm Kempf av Limburg. Fra 1963 til 1965 var han også i konsilets egen teologiske kommisjon. Han hadde særlig innvirkning på utkastene til dokumentet Lumen gentium, den dogmatiske konstitusjon om Kirken. Det var da han første gang møtte kardinal Wojtyła og samarbeidet med ham i utviklingen av andre forskjellige dokumenter som Gaudium et spes, Dei verbum og Dignitatis humanae.[5]
Han ble pensjonist i 1978 på sin 68. fødselsdag, men fortsatte å forfatte og underviste. Han ble utnevnt av pave Johannes Paul II som pavelig delegat til jesuittordenen (1981–1983).