Han var i final på 5 000 meter vid VM 1991 i Tokyo där han slutade på fjärde plats. Hans karriärs största framgång kom vid Olympiska sommarspelen 1992 i Barcelona där han vann guld på 5 000 meter på tiden 13.12,52.
Baumann missade VM 1993 på grund av skador men var tillbaka till EM 1994 där han vann guld på 5 000 meter. Vid VM 1995 slutade han först på en nionde plats. Han deltog även vid Olympiska sommarspelen 1996 där han inte lyckades att försvara sitt guld utan slutade på en fjärde plats, men mindre än en sekund från segraren Vénuste Niyongabo.
Vid VM 1997 var han åter i final på 5 000 meter och slutade på en femte plats. Han deltog även vid EM 1998 då på 10 000 meter där han slutade tvåa. Under 1999 fastnade han i en dopingkontroll och stängdes av i två år vilket gjorde att han missade Olympiska sommarspelen 2000. Han sista mästerskapsstart var EM 2002 där han blev tvåa på 10 000 meter.