Zimmermann va defensar Suïssa en tres Olimpíades d'escacs oficials (1927, 1931, i 1954), i en una de no oficial (1924). En olimpíades oficials, va fer un resultat de 23 punts de 40 partides, un 57,5%.
↑La competició era individual, tot i que els jugadors sumaven els seus punts per a la classificació per equips. Suïssa obtingué la medalla de bronze en quedar en 3a. posició (l'equip guanyardor fou Txecoslovàquia).