Débutant au Royal FC Liégeois, Jean-Marie Houben est devenu titulaire de l'équipe première en 1985. Les Sang & Marine évoluent alors en Division 1. Houben joue six saisons comme défenseur. Il a pour équipiers des personnalités telles que Jacky Munaron, Bernard Wégria ou Danny Boffin. Le club liégeois termine troisième du championnat en 1989 et remporte la Coupe de Belgique en 1990.
Houben intéresse également les sélectionneurs : il joue deux fois en équipe nationale en 1989[2].
À partir de 1991, le Liégeois joue à Anderlecht, où il reste deux saisons. Après avoir raté le titre en 1992 avec les Mauves, le défenseur est champion de Belgique en 1993.
Ensuite, il rejoint le champion d'Europe danois Lars Olsen, au RFC Sérésien, club qui vient de monter parmi l'élite. L'équipe très brillante pratique un football Champagne, termine troisième du championnat et participe à la Coupe de l'UEFA.