Han vann 1910 års guvernörsval i Kalifornien som en liberal republikan. Som guvernör i Kalifornien 1911-1917 blev hans administration i delstaten känd för de betydande framstegen inom områden kvinnlig rösträtt och direkt demokrati. Kalifornien blev plötsligt en föregångare i demokratifrågor inom USA.
Efter tiden som guvernör blev Johnson invald i USA:s senat som republikan. Han tillträdde som senator 16 mars1917 och blev kvar i senaten fram till sin död 1945.
Johnson bestämde sig för att inte delta i det återupplivade progressiva partiet på 1920-talet utan han ville i stället bli republikanernas presidentkandidat. Han besegrades 1920 av Warren G. Harding som vann hela presidentvalet och ännu 1924 fick Johnson tio röster på republikanernas partikonvent. Den gången valdes president Calvin Coolidge till partiets kandidat.
Johnson var en ledande republikansk isolationist. Han talade 1917 mot USA:s inträde i första världskriget och sade att krigets första offer är sanningen: "The first casualty when war comes is truth", något han sannolikt inspirerats av dem brittiska rösträttskvinnan och fredsaktivisten Ethel Annakin Snowden som myntade detta 1915.[4] Johnson röstade emot både Nationernas förbund och Förenta nationerna i USA:s senat.
