Entrato a far parte della Südtiroler Volkspartei (SVP), dal 2000 al 2005 è vicesindaco del suo paese natale, Fiè allo Sciliar, e membro del consiglio della Comunità comprensoriale Salto-Sciliar. Nel 2005 è eletto sindaco di Fiè allo Sciliar, carica in cui viene riconfermato nel 2010. Nel 2011 diviene presidente del Consorzio dei comuni dell'Alto Adige e del relativo Consiglio dei comuni, mentre nel 2012 è nominato responsabile del comitato per le politiche comunali della SVP.
Nel 2013 si candida alle primarie indette dal suo partito per scegliere il nuovo esponente da presentare come capolista (e candidato presidente de facto, in quanto tale elezione spetta poi al consiglio provinciale) alle elezioni provinciali e ripartire le posizioni in lista dei candidati consiglieri. Oltre a lui si sono presentati l'ex Obmann della SVP Elmar Pichler Rolle e l'Obmann in carica Richard Theiner (quest'ultimo poi ritiratosi anzitempo dalla corsa per dissidi sulla gestione della campagna elettorale)[1]
Kompatscher vince largamente la tornata, con l'82,8% dei consensi, contro il 17,16% di Pichler Rolle[2] A seguito delle elezioni provinciali, il 9 gennaio 2014 viene eletto presidente della provincia autonoma di Bolzano dal consiglio provinciale. Nelle elezioni provinciali del 2018 Arno Kompatscher si è candidato una seconda volta come capolista della SVP ed è stato il candidato più votato con 68.210 voti di preferenza. Il 17 gennaio 2019 è stato rieletto come presidente della provincia dal consiglio provinciale.[3]
Nelle elezioni provinciali del 2023 si è candidato nuovamente come capolista dell'SVP e ha ottenuto 58.775 voti di preferenza.[4] Il 18 gennaio 2024, il consiglio provinciale lo ha rieletto presidente della provincia con 19 voti sì e 16 no.[5]