Ab 1959 arbeitete Gronouski für die Steuerbehörde von Wisconsin. Er erhielt den Posten des Direktors der Kommission für Einkommenserfragung (Revenue Survey Commission). 1960 wurde er Wisconsins staatlicher Steuerbeauftragter (Tax commissioner) und unterstützte als Mitglied der Staatsexekutive den Wahlkampf von John F. Kennedy um die US-Präsidentschaft. Dieser erinnerte sich im August 1963 an Gronouski, der sich zwischenzeitlich durch die Neuorganisation des Steuersystems von Wisconsin einen Namen gemacht hatte, und ernannte ihn zum neuen Postmaster General.
John Gronouski war das erste Mitglied eines US-Kabinetts von polnischer Herkunft. Er erwarb sich während seiner Amtszeit Verdienste im Bemühen um ein Ende der Rassendiskriminierung von Postangestellten; zudem wurde unter seiner Leitung das System der fünfstelligen Postleitzahlen eingeführt.