André Parmentier participe à deux éditions des Jeux olympiques d'été.
Aux Jeux olympiques de 1908 se tenant à Londres, il remporte la médaille de bronze dans l'épreuve de rifle libre, à trois positions à 300 m par équipes. En 1920 à Anvers, il remporte la médaille d'argent dans l'épreuve de rifle militaire couché par équipes.