Nach Machtübernahme der Kommunisten in der Tschechoslowakei im Jahre 1948 blieb er in Rom und empfing am 12. März 1949 das Sakrament der Priesterweihe durch den römischen Weihbischof und späteren Kurienkardinal Luigi Traglia. Er war als Seelsorger in verschiedenen Pfarrgemeinden Roms sowie im Bistum Porto-Santa Rufina tätig. Von 1950 bis 1965 war er stellvertretender Rektor, später Rektor des Collegium Nepomucenum. Er war 1955/1956 Fakultätsmitglied der Internationalen Universität für Sozialstudien Pro Deo.
1959 trat er in die Dienste der römischen Kurie ein. Ab 1962 arbeitete er zusätzlich für die Glaubenskongregation, und von 1974 bis 1979 war Tomko Untersekretär der Kongregation für die Bischöfe. Von 1970 bis 1978 war er Professor an der Universität Gregoriana.
In den folgenden Jahren zeichnete er für die Organisation und Durchführung zahlreicher Synoden verantwortlich. Weitere Tätigkeitsfelder Tomkos waren seit Anfang der 1970er Jahre der ökumenische Dialog mit den Lutheranern und Lehrtätigkeiten an der Gregoriana. Darüber hinaus arbeitete er als Seelsorger in verschiedenen Gemeinden Roms und engagierte sich für slowakische Auslandsgemeinden, vor allem in den USA.
Papst Benedikt XVI. berief Jozef Tomko mehrmals als Sondergesandten wie im November 2009 zum persönlichen Gesandten zu den Feierlichkeiten zum 150. Jahrestag der Evangelisierung der Insel Taiwan.[5]
Im Frühjahr 2012 betraute ihn Papst Benedikt XVI. als Mitglied einer dreiköpfigen Kardinalskommission mit Spezialmandat mit der Untersuchung der Vatileaks-Affäre. Die Kommission soll Fälle von Diebstahl vertraulicher (päpstlicher) Dokumente aus dem Vatikan aufklären.
Da er bereits 2004 das 80. Lebensjahr vollendet hatte, nahm Kardinal Tomko weder am Konklave 2005 noch am Konklave 2013 teil. Er wurde im Sommer 2022 aufgrund einer Verletzung der Halswirbelsäule und später auch wegen einer COVID-19-Infektion im Krankenhaus behandelt. Am 8. August 2022 starb er schließlich im Alter von 98 Jahren in Rom. Die Beisetzung im Dom der Heiligen Elisabeth im slowakischen Košice ist für den 16. August desselben Jahres vorgesehen.[6]
Ehrendoktorwürde durch die Medizinische Fakultät der Pavol-Jozef-Šafárik-Universität in Košice für den Beitrag zur Entwicklung von Kultur, Bildung und Menschlichkeit in der Slowakei
Biografische Notiz zu Kardinal Tomko In: Presseamt des Heiligen Stuhls: Documentation – The College of Cardinals, abgerufen am 18. Juni 2023 (englisch)
↑Doctor honoris causa KU. Katolícka univerzita v Ružomberku, 9. August 2022, abgerufen am 18. Februar 2023 (polnisch).
↑Meldungen vom 21.11.2009. Dem emeritierten slowakischen Kurienkardinal Jozef Tomko wurde die Ehrenbürgerschaft der slowakischen Hauptstadt Bratislava verliehen. Radio Vatikan, 21. November 2009, abgerufen am 6. Dezember 2017.