In 1982 werd hij, nog maar net 28 jaar oud, staatssecretaris voor arbeid en sociale verzekeringen. In 1984 werd hij als lid van het Luxemburgse parlement verkozen en een jaar later werd hij minister voor Arbeid en Begroting in de regering-Santer. In 1989 werd hij minister van Financiën en van Arbeid.
In de herfst van 1989 leek het even of er aan zijn politieke carrière een einde was gekomen: hij raakte bij een verkeersongeluk ernstig gewond en lag twee weken in coma. Hij herstelde echter volledig.
Premier van Luxemburg
In 1995 werd hij tot premier van Luxemburg benoemd.
Op 11 juli 2013 diende Juncker bij de Groothertog zijn ontslag in nadat het Luxemburgse parlement een eindrapport van een onderzoekcommissie had goedgekeurd, waarvan de conclusie luidde dat Juncker nalatig was geweest bij zijn controle van de Luxemburgse inlichtingendienst SREL en dat hij daarvoor de politieke verantwoordelijkheid draagt. Vervroegde parlementsverkiezingen werden gehouden op 20 oktober 2013.[1] De CSV slaagde er onder leiding van Juncker in om de grootste partij te blijven, maar verloor bij de coalitiebesprekingen desondanks de macht. Juncker werd, na negentien jaar premierschap, opgevolgd door de liberaal Xavier Bettel, tot dan burgemeester van de stad Luxemburg.
Op 25 mei 2014 eiste Juncker het voorzitterschap op, omdat de EVP de verkiezingen gewonnen had. Via Twitter stelde Juncker: "Ik ga niet door de knieën voor een regeringsleider. Ik won de verkiezingen."[5][6]