Konrad Graber war von 1985 bis 1989 in der Legislative seiner Wohngemeinde Kriens vertreten. 1987 wurde er in den Grossen Rat (heute: Kantonsrat) des Kantons Luzerns gewählt, dem er bis 2007 angehörte. Von 1997 bis 2001 amtete er als Präsident der kantonalen CVP. Bei den Parlamentswahlen 2007 wurde er als Vertreter des Kantons Luzern im zweiten Wahlgang in stiller Wahl in den Ständerat gewählt und trat 2019 aus diesem zurück. Zudem ist er Mitglied der 2013 auf Initiative der Getränkehersteller gegründeten Lobbygruppe für SüssgetränkeIG Erfrischungsgetränke.[1]