Conway szybko stał się jednym z czołowych polityków swojego stronnictwa. Kiedy lord Rockingham stanął w 1765 r. na czele brytyjskiego rządu, Conway został ministrem południowego departamentu. W 1766 r. został ministrem północnego departamentu w rządzie lorda Chathama. Opowiadał się za łagodniejszą polityką wobec amerykańskich kolonii i popierał zniesieni Stamp Act z 1766 r. W styczniu 1768 r. podał się do dymisji. W latach 1765–1768 był ponadto przewodniczący Izby Gmin.
Po dymisji Conway powrócił do czynnej służby wojskowej. W 1772 r. został pełnym generałem i gubernatorem Jersey. Pozostał również prominentnym deputowanym Izby Gmin. Krytykował rząd lorda Northa za jego posunięcia wobec amerykańskich kolonii. W 1782 r. zgłosił, przyjęty później przez Izbę Gmin, wniosek o wotum nieufności dla rządu.
Na czele nowego rządu stanął lord Rockingham, który mianował Conwaya członkiem gabinetu jako głównodowodzącego Sił Zbrojnych. Conway pozostał na tym stanowisku w gabinecie Shelburne’a i odszedł po upadku tego gabinetu w 1783 r. Rok później utracił miejsce w Izbie Gmin. W 1793 r. otrzymał stopień marszałka polnego. W tym samym roku przestał być naczelnym dowódcą Sił Zbrojnych.