Iohannis je na političku scenu stupio kada je godine 2000. izabran za gradonačelnika Sibiua, i to kao kandidat Demokratskog foruma Nijemaca u Rumunjskoj. Iako je u tom gradu (gdje se većinski govorio njemački), nekada brojno njemačko stanovništvo svedeno na sićušnu manjinu, Iohannis je na iznenađenje mnogih ostvario pobjedu te bio sa velikom većinom bio ponovno biran 2004. i 2008. Iohannisu se pripisuje uspješno vođenje grada, odnosno njegovo pretvaranje u popularno turističko odredište i osvajanje prestižne titule Evropske prijestolnice kulture. U februaru 2013. Iohannis je postao članom Nacionalne liberalne partije (PNL) na poziv njenog tadašnjeg vođe Crina Antonescua i odmah bio izabran za prvog potpredsjednika stranke, postavši predsjednikom stranke sljedeće godine.
U oktobru 2009. su ga četiri od pet grupa u rumunjskom Parlamentu, s izuzetkom PNL koju su činile pristaše tadašnjeg predsjednika Traiana Basescua, predložile za mjesto premijera; Băsescu ga je međutim odbio službeno nominirati.[1] Iste je godine, pak, na izborima bio zajednički kandidat za premijera predložen od PNL i Socijaldemokratske partije.[2]
.JPG)
