Sétimo filho de uma família de nordestinos que migrou do Piauí para o Distrito Federal,[2] começou sua carreira jogando basquete americano no SESI de Taguatinga aos treze anos de idade, e logo mostrou um grande talento como júnior.[3] Aos dezoito anos, conseguiu a marca de 1'51" nos 800 metros. Após estabelecer o recorde mundial juvenil de 1'44"3[4] no Troféu Brasil de Atletismo no Rio de Janeiro em 1981, ele recebeu uma bolsa de estudos na Universidade de Oregon em 1983, onde correu o famoso corredor Steve Prefontaine. Logo essa mudança mostrou resultados, e Cruz venceu os 800m no campeonato colegial americano NCAA no mesmo ano. Ele também competiu no primeiro Campeonato Mundial de Atletismo em Helsinque, conseguindo a medalha de bronze.[5]
No ano seguinte, os Jogos Olímpicos foram realizados em Los Angeles e Cruz era considerado um dos favoritos, juntamente com os britânicos Sebastian Coe, recordista mundial e o campeão olímpico de Moscou 1980, Steve Ovett. Joaquim correu em segundo a prova toda e na entrada da reta final deu uma arrancada que os outros adversários não conseguiram acompanhar; cruzou a linha de chegada em 1:43.00,[6] novo recorde olímpico (que vigorou por 12 anos)[4], a frente de Sebastian Coe e do marroquino Said Aouita, se tornando o primeiro brasileiro no atletismo a conseguir o título olímpico desde Adhemar Ferreira da Silva, medalhista de ouro em Helsinque 1952 e Melbourne 1956.[7] Devido a um alegado resfriado, não participou nas semifinais dos 1500 m dois dias depois, prova para a qual também estava inscrito.
Poucas semanas após os Jogos Olímpicos, Joaquim quebrou mais um recorde brasileiro nos 800m em uma competição em Colônia. Seu tempo de 1:41.77 foi apenas 4/100 de segundo acima do recorde mundial.[1][4] Em 1985 Joaquim confirmou seus excelentes resultados no ano anterior ao correr tempos abaixo de 1:43 na Europa. Neste ano, foi eleito o Desportista do Ano numa votação de jornalistas brasileiros (obteve 98 dos 107 votos totais).
Em Seul 1988, defendendo seu título nos 800m, ele liderava a prova até a curva final, quando foi ultrapassado pelo quenianoPaul Ereng, ficando com a medalha de prata.[8] Ainda durante os Jogos, causou polêmica ao comentar sobre o físico, e possível doping, da corredora americana Florence Griffith Joyner: "Era muito feminina no início da carreira. Hoje ela parece um homem".[9]