José de Jesús Pimiento Rodriguez begann seine priesterliche Ausbildung am Priesterseminar von San Gil, wo er von 1936 bis 1937 Philosophie studierte. Von 1938 bis 1941 studierte er Theologie am Priesterseminar von Bogotá und empfing am 14. Dezember 1941 die Priesterweihe durch Ismael Perdomo Borrero, den damaligen Erzbischof von Bogotá. Er war zunächst in der Seelsorge tätig, unter anderem an der Kathedrale von San Gil. Von 1943 bis 1944 war er Lehrer am Priesterseminar des Bistums Socorro y San Gil. Seit 1947 war er für die Katholische Aktion tätig.
Papst Paul VI. ernannte ihn am 29. Februar 1964 zum Bischof von Garzón-Neiva. Am 22. Mai 1975 ernannte ihn Papst Paul VI. zum Erzbischof von Manizales. Von 1972 bis 1978 war er Präsident der kolumbianischen Bischofskonferenz. Zuvor war er dort unter anderem Präsident der Bischöflichen Kommission für Glaubens- und Moralfragen. Es gelang ihm, das pastorale Leben im Erzbistum Manizales zu stärken, indem er Reformen des Zweiten Vatikanischen Konzils umsetzte. Außerdem gründete er ein Zentrum für Evangelisierung und Katechismus.
Am 15. Oktober 1996 nahm Papst Johannes Paul II. seinen altersbedingten Rücktritt an. Anschließend war Pimiento Rodriguez als Missionar im Bistum Apartadó tätig. Von 2001 bis 2003 war er Apostolischer Administrator seines Heimatbistums Socorro y San Gil. Er lebte zuletzt in Bucaramanga.
Biografische Notiz zu Kardinal Pimiento Rodríguez In: Presseamt des Heiligen Stuhls: Documentation – The College of Cardinals, abgerufen am 10. Juni 2023 (englisch)
Cardenal José de Jesús Pimiento. In: Website des Erzbistums Manizales. Archiviert vom Original (nicht mehr online verfügbar) am 2. April 2016; abgerufen am 5. September 2019 (spanisch).