Shafroth blev 1894 invald i representanthuset som republikan. Efter en mandatperiod bytte han parti till Silver Republican Party som han representerade i sex år. Därefter bytte han parti på nytt till demokraterna. Republikanen Robert W. Bonynge vägrade att godkänna valresultatet i kongressvalet 1902 och ansåg att han i stället för Shafroth hade vunnit valet. Efter en lång process meddelade Shafroth 15 februari 1904 sin avgång, eftersom även han trodde att Bonynge hade vunnit valet. Efter att ha erkänt förlusten blev han känd som "Honest John".
Shafroth vann guvernörsvalet 1908 som demokraternas kandidat och efterträdde Henry Augustus Buchtel som guvernör i januari 1909. Under Shafroths tid som guvernör introducerades initiativsystemet i Colorado, så att medborgarna har möjlighet att ordna folkomröstningar om tillräckligt många underteckna initiativet till en folkomröstning. Han efterträddes som guvernör av Elias M. Ammons.
