Carlson, son till invandrare från Sverige, utexaminerades 1902 från University of Colorado och avlade sedan där juristexamen 1904. Efter några år som advokat i Fort Collins arbetade han sedan som distriktsåklagare 1908–1914.
Ludlowmassakern var en viktig valfråga vid sidan om alkoholförbud i guvernörsvalet 1914. Ämbetsinnehavaren Elias M. Ammons förlorade valet mot Carlson som tillträdde som guvernör den 12 januari 1915. En lag om arbetarnas försäkringsskydd trädde i kraft under Carlsons tvååriga mandatperiod. Han ställde upp för omval men besegrades av utmanaren Julius Caldeen Gunter.