Kleine won in 1976 naast het goud op de 10.000 meter tevens de zilveren medaille op de 5000 meter bij de Olympische Spelen in Innsbruck waar "'t snèjde dat 't verrekte". In datzelfde jaar reed hij viermaal een wereldrecord: twee keer op de 5000 meter, een keer op de 10.000 meter én op de grote vierkamp. Pas in 1992 zou landgenoot Bart Veldkamp hem opvolgen. Aan het einde van het seizoen stond hij tweede op de Adelskalender (de wereldranglijst schaatsen) achter Hans van Helden. Hij werd dat jaar gehuldigd in zijn woonplaats Hollandscheveld en gekozen tot Sportman van het jaar.
In 1980 werd Kleine tweede op de 10.000 meter bij de Olympische Spelen, achter Eric Heiden. In 1981 stopte hij als langebaanschaatser. Daarna trad Kleine met succes toe tot het amateurwielerpeloton. In 1985 werd hij, als lid van de nationale selectie, vijfde op het onderdeel 100 km ploegentijdrit bij de wereldkampioenschappen.
In 1986 debuteerde Kleine in het peloton der marathonschaatsers en in 1990 werd hij Nederlands kampioen marathonschaatsen op kunstijs. Tijdens de Elfstedentocht van 1997 maakte hij de vergissing een stempelpost over te slaan. Hij werd naar aanleiding daarvan uit de uitslag geschrapt (hij was als vijfde geëindigd). Niet geheel terecht zoals later bleek: in het verleden was het diverse malen voorgekomen dat Elfstedenwinnaars hun kaart niet volledig gestempeld hadden. De stempelkaart behoort tot de collectie van het Eerste Friese Schaatsmuseum in Hindeloopen. Op 5 januari 2017 kreeg Kleine alsnog de vergeten stempel in Hindeloopen, waardoor Kleine alsnog een Elfstedentochtkruisje kreeg. Zijn diskwalificatie werd echter niet teruggedraaid.[1]
In 2001 beëindigde hij zijn schaatscarrière en legde zich toe op zijn beroep als postbode, een baan die hij ook zijn gehele sportcarrière naast zijn sport heeft uitgeoefend. In zijn vrije tijd treedt hij op als ploegleider bij een ploeg met marathonschaatsers.