Bis 1926 war er Organist an der St. Francis Xavier Church. In dieser Zeit entstanden seine wichtigsten Kompositionen, darunter Natalie in Sicilia (1912), die Weihnachtshymne Gesu Bambino (Baby Jesus, 1917) und Humoresque "L'organo primitivo" – Toccatina for Flutes (1918). 1921 wurde er amerikanischer Staatsbürger. Im gleichen Jahr wurde er zum Ehrenorganisten am Petersdom ernannt. Von 1927 bis zu seinem Tode wirkte Yon als Organist an der St. Patrick's Cathedral in New York City, USA.
Pietro Yon gilt als einer der bedeutendsten katholischen Kirchenmusiker der USA aus der ersten Hälfte des 20. Jahrhunderts.
Daneben war Yon auch ein bedeutender Konzertorganist und gesuchter Orgellehrer. Zu seinen Schülern zählte u. a. der Komponist Paul Creston.