Després d'estudiar en el col·legi dels Pares Agustins i el batxillerat en l'Institut de Huelva, on dona mostres indubtables de la seva capacitat per al dibuix coneix a la fi dels anys 20 al poeta Adriano del Valle. En 1924 mor el seu pare i la família queda en una difícil situació econòmica.
En 1930 es trasllada a Madrid per a estudiar Enginyeria Industrial, que abandona dos anys després per a ingressar a l'Escola de Belles Arts de Sant Ferran i continuar amb les seves classes en l'estudi de Daniel Vázquez Díaz, a qui havia conegut a Huelva quan aquest pintava els murals de Monestir de la Rábida. A través del seu mestre entra en contacte amb els artistes i intel·lectuals més destacats d'aquell moment. Poc temps després, al costat d'altres artistes com Federico García Lorca, col·labora en l'Ateneu de Huelva en una exposició tan polèmica que va ser clausurada a l'hora d'inaugurar-se.
En 1933 visita amb freqüència el pintor constructivista uruguaià Joaquim Torres García, i un any més tard l'escultor Alberto Sánchez, dels qui rep importants ensenyaments.
L'any 1935 representa per a l'artista una etapa creativa molt lligada al surrealisme espanyol. Així, realitza tres cartells conjuntament amb Adriano del Valle en l'Ateneu de Sevilla i il·lustra poemes per a Federico García Lorca i Pablo Neruda. També contribueix en revistes avantguardistes com Cruz y Raya, Noreste, Línea i Caballo Verde para la poesía o en la primera fira de dibuix organitzada per la Sociedad de Artistas Ibéricos.
Amb l'arribada de la Guerra Civil uns quants d'aquests artistes s'exiliaran o desapareixeran. Però no Caballero, al qual la guerra l'agafa a Huelva i que, en ser cridat a files, es dedicarà a realitzar mapes. Després de la contesa, fa nombrosos treballs com a decorador per a cinema i teatre. Col·labora amb grans directors d'escena espanyols i el seu treball queda reflectit en les nombroses fotografies sobre teatre realitzades pel fotògraf Juan Gyenes en els anys quaranta i cinquanta.
En 1949 realitza una pintura per a l'oficina espanyola de turisme i il·lustra diversos llibres de poesia. El seu èxit és notable, fins que en 1950 és convidat a la XXV Edició de la Biennal de Venècia i realitza la seva primera gran mostra individual a Madrid, en la galeria Clan. A partir d'aquí s'interessa per l'expressionisme i en 1953 exposa en el Museu d'Art Contemporani de Madrid. En 1957 coneix a Pablo Picasso en París. A partir d'aquí la seva obra es dilata en el temps amb aportacions diverses fruit de viatges a diferents països com Turquia que el porten a provar amb el geometrisme en les seves obres. Les exposicions sobre la seva obra seran nombroses en aquests anys.
En 1972 organitza una exposició antològica a Huelva, ciutat en la qual anys abans ha fet diversos treballs per a la diputació o per a una caixa d'estalvis. A l'any següent una exposició seva és vetada pel Ministeri d'Interior.
Neruda, Pablo. Texto en el catálogo de la exposición individual de José Caballero en la Galería Clan, Madrid, 1950./A José Caballero desde entonces, texto en el catálogo de la exposición individual del artista en la Galería Juana Mordó, Madrid, 1970 y en Geografía Infructuosa, Ed. Losada, Buenos Aires, Argentina, 1972./Prólogo para Oceana, Ediciones de Bibliofilia Casariego, Colección Tiempo para la alegría, Madrid, 1971./ Confieso que he vivido (Memorias), Ed. Seix y Barral, México, 1974.
Aguilera Cerni, Vicente. Panorama del Nuevo Arte Español, Ed. Guadarrama, Madrid, 1966. / Texto en el catálogo de la exposición individual del artista en la Fundaçao Gulbenkian, Lisboa, Portugal, 1973.
Moreno Galván, José María. La última vanguardia, Ed. Magius, Barcelona, 1968/ José Caballero (monografía), Ed. Ayuntamiento y Diputación de Huelva, 1972.
Alberti, Rafael.'' Algo de José Caballero, texto en el catálogo de la exposición individual del artista en la Galería Juana Mordó, Madrid, 1970 y en Canciones del Alto Valle del Aniene, Ed. Losada, Buenos Aires, Argentina, 1972/ José Caballero, texto en el catálogo de la exposición individual del artista en la Galleria d´Arte Moderna L´Indiano, Florencia, Italia, 1974./ Con aire, cal y cielo, prólogo a Cuadernos de Huelva, Ed. Diputación de Huelva, 1984.
Caballero Bonald, José Manuel. Texto para la carpeta de obra gráfica Propuesta para una bandera andaluza, Ediciones Multitud, Madrid, 1977./ José Caballero, texto para el catálogo de la exposición individual del artista en la Sala de exposiciones del Banco de Granada, Granada, 1977. / José Caballero; variaciones sobre la unidad, texto para el catálogo de la exposición antológica del artista en el Centro Cultural de la Villa, Ayuntamiento de Madrid, 1992. /Poemas grabados, texto en el catálogo de la exposición individual del artista en la Capilla del Oidor, Fundación Colegio del Rey, Alcalá de Henares, Madrid, 1990.
Corredor-Matheos, José. Pintura y escultura de vanguardia, Ed. Banco Hispano-Americano, Madrid, 1986.
Calvo Serraller, Francisco. Diccionario Enciclopédico Español, Tomo III, Espasa-Calpe, Madrid, 1978./ España: Medio siglo de Arte de Vanguardia: 1989-1985, Ed. Ministerio de Cultura, Madrid, 1986./ Testimonio pictórico de José Caballero, texto en el catálogo de la exposición individual del artista en la Fundaçao Portuguesa das Comunicaçoes, Lisboa, Portugal, 2002 y en el catálogo de la exposición itinerante de la Sociedad Española de Acción Cultural en el Exterior (SEACEX), en Montevideo (Uruguay), Santiago de Chile, Asunción (Paraguay), Buenos Aires (Argentina) y Nueva York (EE.UU), 2001-2004./ El pintor José Caballero, Diario El País, 27 de mayo de 1991.
García-Osuna, Carlos. Signos y sonidos. Diario El Independiente, Madrid, 22 de octubre de 1990./ Los años decisivos y penitenciales de José Caballero, texto en el catálogo de la exposición individual del artista en la Galería Guillermo de Osma, Madrid, 2003.
Campo, Joaquín del. José Caballero. Algo camina hacia el infinito. En: González Márquez, Juan Antonio (ed.). El Instituto La Rábida: ciento cincuenta años de educación y cultura en Huelva. Huelva: Diputación Provincial, 2007. 2 vol. ISBN 978-84-8163-427-3
