Herman Willemse insieme alla collega Mary Kok nel 1960
Herman Willemse debuttò giovanissimo nel panorama natatorio, dedicandosi allo stile libero[2]. Ottenne tredici titoli olandesi[3] e, tra il 1952 e il 1958 stabilì diciannove record nazionali su tutte le distanze dello stile libero (100 m, 200 m, 400 m, 800 m, 1500 m)[4]. Willemse era solito allenarsi nel canale Amsterdam-Reno perché non c'erano piscine professionali nella sua città[3].
Nel 1959 passò al nuoto di fondo, che gli regalò una grande fama e una lunga fila di successi per tutto l'arco degli anni sessanta. Fu il secondo olandese ad attraversare a nuoto il canale della Manica[2], compiendo l'impresa in dodici ore e quarantanove minuti[5][6]. Dopo il 1964, quando venne introdotto il sistema di ranking a punti, Willemse venne classificato secondo nuotatore di fondo al mondo dopo Abdellatief Abouheif per tre anni di seguito[1].
Tra il 1960 e il 1964, si aggiudicò per cinque edizioni consecutive la vittoria della Around-the-Island Marathon Swim; la perdita di interesse degli scommettitori nell'assistere ad una gara che lo vedeva trionfare ogni volta portò gli organizzatori ad interrompere l'evento a partire dal 1965[2].
Willemse era conosciuto per il suo approccio scientifico prima di ogni gara: studiava, infatti, le condizioni dell'acqua per impostare la migliore strategia[1] e a volte arrivava a ritirarsi se la temperatura era ritenuta troppo bassa[7].
Nonostante i risultati, Herman Willemse non partecipò mai ai Giochi Olimpici; nel 1952 fu ritenuto troppo giovane, nel 1956 i Paesi Bassi boicottarono l'evento e nel 1960 era registrato come nuotatore professionista, mentre il regolamento olimpico imponeva che i partecipanti fossero dilettanti[2].
Nell'arco della carriera, collezionò quattordici titoli nelle maratone di nuoto superiori alle dieci miglia[1]. Oltre all'attività di nuotatore, svolgeva la professione di insegnante di scuola elementare[2][3][8]. Per due anni fu l'allenatore del nuotatore Johan Schans[9].
Dopo essersi ritirato dal nuoto, Willemse si dedicò all'attività di skipper trasportando ospiti paganti intorno alla Norvegia in barca a vela insieme a sua moglie[2]. Pubblicò inoltre un libro biografico intitolato Marathonzwemmen. Nel 2008 fu inserito nell'International Swimming Hall of Fame[10].
Herman Willemse morì all'età di ottantasette anni nel luglio del 2021[11].
