Naukę muzyki rozpoczął w Średniej Szkole Muzycznej w Zabrzu. W latach 1947–1952 studiował grę na organach w klasie Bronisława Rutkowskiego, a od 1950 do 1956 kompozycję pod kierunkiem Stanisława Wiechowicza w Państwowej Wyższej Szkole Muzycznej w Krakowie. Jako student w 1950 uzyskał I nagrodę na Ogólnopolskim Konkursie Bachowskim w Poznaniu. Od 1948 do 1951 uczył w Państwowej Średniej Szkole Muzycznej w Bytomiu, a od 1954 w Państwowym Liceum Muzycznym w Krakowie. W 1956 rozpoczął działalność pedagogiczną w Katedrze Organów Państwowej Wyższej Szkoły Muzycznej w Krakowie. Tam pełnił kolejno funkcje prodziekana Wydziału Wychowania Muzycznego (1966-1969), dziekana Wydziału Instrumentalnego (1969-1972) oraz prorektora (1972-1975). W 1976 objął funkcję kierownika Katedry Organów i pełnił ją aż do śmierci. W 1981 uzyskał tytuł profesora nadzwyczajnego, a w 1987 profesora zwyczajnego. W latach 1973–1976 i 1979-1982 był członkiem Rady Wyższej Ministerstwa Kultury i Sztuki, a także członkiem Archidiecezjalnej Komisji ds. Muzyki Kościelnej przy Kurii Metropolitalnej w Krakowie, działając przez szereg lat w podkomisji do spraw budowy organów.
Od 2004 r. w Krakowie corocznie odbywają się Zaduszki Organowe im. prof. Jana Jargonia[1]
