Piccoli wurde in Kirchbichl geboren, wohin seine aus Borgo Valsugana stammende Familie nach der italienischen Kriegserklärung an Österreich-Ungarn von den österreichischen Behörden evakuiert worden war. Nach dem Ende des Ersten Weltkrieges besuchte er die Schule in Trient. 1938 schloss er sein Studium in Romanistik an der Universität Ca’ Foscari in Venedig ab.[1]
Nach dem Krieg trat er als Mitglied der Democrazia Cristiana (DC) von Alcide de Gasperi bei. Von 1946 bis 1977 leitete er die Trentiner Tageszeitung Il Popolo Trentino, ab 1951 in L’Adige umbenannt.[1] Von Juni 1958 bis April 1994 war er Mitglied der Abgeordnetenkammer (Camera dei deputati). Zwischen Januar und November 1969 war er erstmals Parteisekretär der DC.
Im Juli 1978 wurde er Präsident der DC nach der Ermordung des früheren Ministerpräsidenten Aldo Moro durch die linksextremistische Terrororganisation Rote Brigaden am 9. Mai 1978. Das Ziel selbst Ministerpräsident Italiens zu werden, hatte er jedoch nicht erreichen können. Moro, einer seiner engsten parteiinternen Rivalen, beschrieb ihn einmal als „eine Mischung aus Verzicht und Opportunismus“.
Piccoli blieb auch danach bis zu seinem Tod politisch aktiv und wurde nach dem Zusammenfall der DC 1992 aufgrund einer Reihe massiver Korruptionsskandale 1995 Mitglied der Cristiani Democratici Uniti (CDU).