Den politiske karriere begyndte allerede under skoletiden, hvor Steinmeier blev medlem af SPD's ungdomsorganisation, Jusos. Efter endt uddannelse blev han ansat som mediejuridisk og -politisk rådgiver i 1991 i delstatskansleriet for Niedersachsen i Hannover. I 1993 blev han leder af delstatens daværende regeringsleder Gerhard Schröders kontor og i 1996 blev han statssekretær og chef for hele delstatskansleriet. Steinmeier fulgte i 1998 med Schröder til den føderale regering som statssekretær og fuldmægtig for efterretningstjenesten i kansleriet. I 1999 blev han chef for kansleriet.
I 2005 blev han udnævnt til udenrigsminister i Angela Merkels første regering, en stor koalition bestående af hans eget parti SPD og CDU/CSU, og var partiets første udenrigsminister siden Willy Brandt, der sad fra 1966 til 1969. I november 2007 blev han udnævnt til at efterfølge Franz Müntefering som vicekansler.
Ved forbundsdagsvalget 2009 var han spidskandidat for SPD, men partiet fik efterkrigstidens værste valgresultat med kun 23 %. Fra 2009 til 2013 var Steinmeier partiets gruppeformand i Forbundsdagen. Efter forbundsdagsvalget 2013 dannede Angela Merkel en ny regering med SPD, og Steinmeier overtog igen posten som udenrigsminister. Den 27. januar 2017 trak han sig tilbage som minister for at blive Forbundspræsident i valget den 12. februar.