Leino ble olympisk mester i bryting under OL 1920 i Antwerpen. Han vant i vektklassen mellomvekt, opp til 75,0 kg, i fristil. I finalen beseiret han sin landsmann Väinö Penttala. Det var atten brytere fra tolv nasjoner i denne vektklassen som ble avviklet i perioden 25. til 27. august1920. Fire år senere, under OL 1924 i Paris kom han på andreplass i weltervekt. Leino vant ytterligere to olympiske medaljer i sin karriere. Han tok bronse både 1928 i Amsterdam og 1932 i Los Angeles.