Mario Gehrig commence sa carrière comme attaquant dans l'équipe de jeunes du Mannheim ERC et obtient sa licence professionnelle pour la saison 1991-1992. Le gaucher participe à la création des Adler et de la DEL en 1994. Il remporte deux titres champion avec Mannheim en 1997 et 1998. Il joue ensuite un an à Berlin au Berlin Capitals puis chez les Hamburg Crocodiles en seconde division lors de la saison 1999-2000. Il joue entre 2002 et 2006 en ligue régionale avec le EHC Timmendorfer Strand 06.