Il remporte la médaille d'or des Jeux olympiques de 1956 à Melbourne avec un lancer à 63,19 m. Durant sa carrière, l'Américain a amélioré à six reprises le record du monde de la discipline, réalisant notamment 71,26 m en 1965.
Lors des Jeux olympiques de 1956, Harold commence une relation avec la lanceuse de disque tchèque Olga Fikotová. Ils se marient à Prague, l'année suivante. Après 17 ans de mariage, ils divorcent en 1974. Harold se remarie, en 1975, avec l'heptathloniennePat Winslow(en).
Un fils de son premier mariage, Jim Connolly, est sacré champion de décathlon de l'UCLA en 1987, un autre de ses fils de son deuxième mariage a été sacré troisième lanceur de marteau en 1999 au championnat américain.
