Armin Kremer maakte in 1992 zijn debuut in de rallysport. Hij profileerde zich in eerste instantie in het Duits rallykampioenschap, waar hij met een Groep N-Mitsubishi Lancer Evolution naar de titel greep in 1996, en in 1998 en 1999 achter het stuur van een Subaru Impreza WRC. Met de laatste auto won hij in deze periode ook tot twee keer toe de Nederlandse Hellendoorn Rally. Al eerder, in 1997, verongelukte hij zwaar tijdens een ronde van het Duits kampioenschap, waarbij zijn navigator Sven Behling kwam te overlijden. In 2001 wist Kremer met een Toyota Corolla WRC zelfs de Europese titel op zijn naam te schrijven. Hierna volgde een programma in het wereldkampioenschap rally in een Ford Focus RS WRC gesteund door Ford Duitsland. Vervolgens reed hij twee jaar in het Azië-Pacific rallykampioenschap, waar hij in 2003 opnieuw een titel zou pakken. Kremer maakte hierna de overstap naar rally-raid, en was onder meer actief in de Baja 1000.
Sinds 2011 neemt Kremer weer deel aan de zogenaamde conventionele rally's en keerde in 2013 terug in het WK rally als deelnemer aan het World Rally Championship-2, waar hij sinds 2015 actief in is met een Škoda Fabia R5. In het 2016 seizoen greep hij twee keer naar een podium resultaat toe in zijn klasse en wist in beide gevallen in de rally's ook een algemene top tien finish af te dwingen. Hij startte de Duitse WK-ronde in 2017 met een 2017-spec Ford Fiesta WRC, en eindigde de rally binnen de top tien als negende.
Buiten zijn rallyactiviteiten om is Kremer bedrijfsleider binnen een familieonderneming die biologische vleesproducten produceert.
Complete resultaten in het wereldkampioenschap rally