Józef Glempistä tuli Varsovan ja Gnieznon arkkipiispa vuonna 1981, ja samalla Puolan katolilaisten johtaja, priimas. Glemp sai kardinaalin arvon vuonna 1983. Kun Varsovan ja Gnieznon arkkipiispan yhdistelmävirka jaettiin vuonna 1992, Glemp jäi pois korkeammasta virasta jatkaen Varsovan arkkipiispana vuoteen 2006 saakka. Józef Glemp osallistui paavin valinneeseen konklaaviin vuonna 2005.