År 1914 tog Persson värvning vid Västmanlands regemente och arbetare därefter som stensättare, där han lade grunden till sin stora slagstyrka som blev hans signum i boxningsringen. År 1921 anslöt han sig till klubben Solna BK som amatörboxare. Harry Perssons debutmatch gick mot den kommande OS-silvermedaljören Sören Petersen. Även om han förlorade matchen mot dansken gjorde han en imponerande första match.[9] År 1922 missade han SM-vinsten på grund av en handskada[10][11] och samma år valde han att bli professionell genom en uppvisningsmatch arrangerad av Bro IK i Upplands-Bro, varför han aldrig fick någon amatörtitel. Uppvisningsmatchen gav honom åttio kronor.
1922 övergick Persson till det professionella lägret och han började boxas professionellt i Stockholm i det slutna sällskapet Allmänna boxningssällskapet (ABS). Det hade skapats av hans manager och promotor Hjalmar "Hjalle Palton" Palmqvist efter att ett polisförbud mot professionell boxning hade utfärdats 1921.[12][13]
1926 var det år han stod på topp. När Harry Persson den 14 juni1926 i London knockade engelsmannen Phil Scott i elfte ronden[14] blev han europamästare i tungviktsboxning inom organisationen EBU. [15] Efter det räknades Persson som en möjlig utmanare till Jack Dempsey om världsmästartiteln.
Under sin USA-turné 1926 gick Persson sex matcher, bland annat en förmatch i Philadelphia23 september1926 där Gene Tunney överraskande poängbesegrade Jack Dempsey. Persson mötte i samma gala Sgt Jack Adams som han knockade i fjärde ronden. I matchen mot Bud Gorman den 1 november1926 i New York, förlorade Persson på en tveksam diskvalifikation på grund av för låga slag. Returmatchen i Sverige året därpå vann han i femte ronden.[11] Klipp ur matchen, matchförberedelser med mera, blev en film som gick upp på bio under namnet Harry Persson - Bud Gorman.
Ytterligare två förlustmatcher i USA ledde till att han återvände desillusionerad till Sverige. Efter att 23 augusti1931 ha förlorat på teknisk knockout redan i första ronden mot norrmannen Otto von Porat var Perssons karriär i slutfasen, och han gick därefter endast tre matcher till som mer var av uppvisningskaraktär.
Den store, kraftige och tystlåtne Persson med tatueringar på både armar och bröst var mycket populär i Sverige. Efter boxningskarriären arbetade Persson bland annat som ordningsvakt på det då populära nöjespalatset Nalen.
Harry Persson var bror till Erik "Lillis" Persson, svensk landslagsman i bandy, ishockey och fotboll.