Karl Huber naît le à Saint-Gall. Il est originaire de Häggenschwil, dans le même canton[1]. Son père, Johann Karl, est chef de bureau dans une banque ; sa mère est née Mathilde Beatrix Hässig[1].
Dès sa nomination, Karl Huber rationalise la manière dont le Conseil fédéral prend des décisions : il uniformise la présentation des dossiers, fixe les règles à suivre pour la préparation des textes de loi (procédure de consultation) et élabore des lignes directrices de la politique du Conseil fédéral pour la législature à venir[2]. Il institue également des réunions régulières entre les quatre partis gouvernementaux et le gouvernement, appelées entretiens de Watteville, afin de faciliter la recherche de solutions consensuelles[2],[3]. Ces réformes sont officialisées dans la loi de 1978 sur l’organisation de l’administration. Les droits politiques sont condensés dans une seule loi approuvée en votation populaire le , alors qu'il découlaient d'une multitude de textes auparavant[2].