Mario Pio Gaspari ble presteviet 21. juli 1940. Han gikk i Pavestolens diplomatiske tjeneste og spesialiserte seg på latinamerikanske anliggender, med posteringer til nuntiatiurene i Venezuela og Brasil. Den 5. august 1967 utnevnte Pave Paul VI ham til å etterfølge Agostino Casaroli som undersekretær for Rådet for kirkens offentlige anliggender (senere omorganisert inn i Statssekreteriatet).[1]
Mario Pio Gaspari ble den 16. november 1977 utnevnt til apostolisk pro-nuntius til Japan. Da pave Johannes Paul II besøkte Japan i 1981 Gaspari nuntien der.[3] I april 1982 ledet han sørgehøytidelighetene for pater Zenon Żebrowski, en fransiskanermisjonær i Japan.
Han døde av hjertesvikt 23. juni 1983 i en alder av 65 år, og Japans biskoper forretet requiemmesse den 30. juni.[4] Casaroli, nå kardinal, preket ved hans begravelse i Peterskirken den 7. juli 1983.[5]