Figurant parmi les plus grands rameurs de l'histoire du skiff, il est le grand rival du Finlandais Pertti Karppinen, qui est trois fois champion olympique. Leur première confrontation olympique a lieu aux Jeux olympiques de 1976 à Montréal. Lors de cette épreuve, Kolbe mène pratiquement toute la course avant de se voir dépasser à 50 mètres de la ligne d'arrivée[2].
La revanche a finalement lieu lors des Jeux olympiques de 1984 à Los Angeles. De nouveau, l'Allemand mène la course mais, comme à Montréal, le Finlandais ne se laisse pas distancer. Il revient à sa hauteur à 120 mètres de la ligne, les deux bateaux restant bord à bord pendant 100 mètres. Kolbe cède finalement à 20 mètres de la ligne.
C'est finalement en 1988 à Séoul que l'Allemand l’emporte sur le Finlandais. Celui-ci ne parvient pas à se qualifier pour la finale, mais Kolbe ne réalise pas son rêve olympique, battu cette fois par son compatriote Thomas Lange.
Peter-Michael Kolbe est cinq fois champion du monde de skiff, remportant également deux médailles d'argent et une médaille de bronze.