Ennen politiikkaan siirtymistään Svensson työskenteli ruotsin kielen ja historian adjunktina (lehtorina) huskvarnalaisessa koulussa. Hän on ollut mukana Ruotsin kristillisdemokraateissa puolueen alusta, vuodesta 1964 alkaen. Vuonna 1966 hän oli perustamassa puolueen nuorisojärjestöä Kristdemokratiska ungdomsförbundetia (KDU) ja hän toimi sen puheenjohtana vuosina 1970–1973. Kristillisdemokraattien ensimmäinen puheenjohtaja Birger Ekstedt menehtyi kesällä 1972 ja varapuheenjohtajat Åke Gafvelin, Sven Enlund ja Svensson johtivat puoluetta loppuvuoden 1972. Tammikuussa 1973 pidettiin Tukholmassa ylimääräinen puoluekokous, jossa Svensson valittiin ainoana ehdokkaana uudeksi puheenjohtajaksi. Hän luopui puolueen nuorisojärjestön puheenjohtajuudesta toukokuussa 1973. Svensson on ainoa ruotsalaispoliitikko, joka on ollut samanaikaisesti sekä varsinaisen puolueen että puolueen nuorisojärjestön puheenjohtaja.
Svensson toimi kunnallispolitiikassa 1960-luvulta 1990-luvun alkuun, ensin Grännan valtuustossa ja 1970-luvulta lähtien Jönköpingin valtuustossa.
Puheenjohtajakausi
Neljissä peräkkäisissä valtiopäivävaaleissa, 1973, 1976, 1979 ja 1982, kristillisdemokraatit eivät saaneet Svenssonin johtamana edustajia valtiopäiville. Vuoden 1985 vaaleissa puolue teki vaaliliiton keskustapuolueen kanssa ja vaikka puolueen oma kannatus ei olisi ylittänyt vaalikynnystä, vaaliliiton ansiosta Svensson pääsi valtiopäivien jäseneksi. 1988 vaaliliittoa ei enää ollut ja Svensson putosi valtiopäiviltä.
Vuonna 1991 puolue sai suuren vaalivoiton, kannatukseksi tuli 7,14 prosenttia (4,2 prosenttia enemmän kuin kolme vuotta aiemmin) ja valtiopäiväedustajia puolue sai 26. Kristillisdemokraatit olivat mukana Carl Bildtin johtamassa neljän puolueen hallituksessa, jossa Svensson oli apulaisulkoministeri ja apulaisministeri, jonka vastuualueina olivat ihmisvapaudet ja -oikeudet. Hallitus jatkoi vuoteen 1994, jolloin sosiaalidemokraatit palasivat valtaan voitettuaan valtiopäivävaalit. Kristillisdemokraatit menettivät vuoden 1994 vaaleissa kannatustaan yli kolme prosenttia ja ylittivät vain niukasti vaalikynnyksen. Edustajanpaikkoja puolue sai 15, 11 vähemmän kuin kolme vuotta aiemmin.
Svensson johti kristillisdemokraatteja vuoden 1994 jälkeen vielä kaksissa valtiopäivävaaleissa. Valtiopäivävaaleissa 1998 puolue saavutti suuren vaalivoiton, 11,77 prosenttia äänistä (7,7 prosenttia enemmän kuin neljä vuotta aiemmin) ja nousi seitsemänneksi suurimman paikalta neljänneksi suurimmaksi puolueeksi ohi keskustapuolueen, kansanpuolueen ja ympäristöpuolueen. Edustajanpaikkoja puolue sai 42, yhden vähemmän kuin vasemmistopuolue. Valtiopäivävaaleissa 2002 puolue menetti yhdeksän valtiopäiväpaikkaa, mutta säilytti asemansa Ruotsin neljänneksi suurimpana puolueena.
Vuosina 1993–1999 Svensson oli europuolueen European Union of Christian Democrats (EUCD, myöhemmin Euroopan kansanpuolue) varapuheenjohtaja.
Puheenjohtajuuden jälkeen
Svensson jätti kristillisdemokraattien puheenjohtajuuden huhtikuun 2004 ylimääräisessä puoluekokouksessa, joka järjestettiin samassa paikassa Tukholmassa, jossa hänet oli tehtävään valittu. Uudeksi puheenjohtajaksi valittiin yksimielisesti puolueen valtiopäiväryhmän pitkäaikainen puheenjohtaja Göran Hägglund. Svensson ehti toimia puolueensa johdossa yli 31 vuotta ja hän on näin pisimpään minkään puolueen johdossa toiminut poliitikko Ruotsissa. Häntä ennen ennätys oli sosiaalidemokraatti Tage Erlanderilla, joka toimi 23 vuotta (1946–1969) puolueensa johdossa.
Svensson toimi puheenjohtajakautensa jälkeenkin, heinäkuuhun 2009 asti, Ruotsin valtiopäivien jäsenenä. Hän edusti Skånen läänin pohjoista ja itäistä vaalipiiriä (Skåne läns norra och östra valkrets). Europarlamenttivaaleissa 2009 hänet valittiin Euroopan parlamentin jäseneksi.
Yksityiselämä
Svensson on naimisissa ja hänellä on vaimonsa Sonjan kanssa kolme lasta, kaksi tytärtä ja yksi poika.