Народився 12 березня 1898 року в Опаві, в сім'ї редактора газети «Загальнонімецька кореспонденція» (нім.Alldeutsche Korrespondenz). Після закінчення школи вступає до австрійського кадетського корпусу в Празі.
Після закінчення Першої світової війни вступив в Фрайкор. Працював бібліотекарем, а потім, банківським клерком. 17 грудня 1926 вступає в НСДАП, а потім в штурмовий загін в Мюнхені. У цьому ж році одружився, від шлюбу мав двох дітей. У період з 1932 по 1933 — начальник школи СА «Клейнлос». З 1933 по 1934 — командир штурмбанна. Очолював з березня 1934 по квітень 1939 групу СА «Дунай».
Кар'єра в СС
15 серпня 1939 вступає в СС. У 1940 призначений начальником школи жандармерії в Зулі, а з листопада 1940 по вересень 1941 — мотошколи жандармерії в Деггінгені. З липня 1942 по жовтень 1944 входив до складу штабу СС.
З вересня 1941 року до кінця листопада 1941 призначений керівником СС і поліції в Саратові[1], а потім керівником СС і поліції при вищому керівництві СС і поліції «Центральна Росія». Керував і організовував антипартизанські операції на підконтрольних йому територіях, за що на Шиману покладена відповідальність за руйнування 103-х сіл і смерті 4018-ти чоловік. З січня по липень 1942 командував поліцейський полком «Центр». З 21 серпня 1942 керівник СС і поліції у Білорутенії (штаб-квартира в Мінську) і комендант Мінська. 30 червня 1943 очолив сформовану з українців добровольчу дивізію СС «Галичина» і бойову групу «Шимана», що воювала з партизанами між Мінськом і Борисовом. 18 жовтня 1943 призначений Вищим керівником СС і поліції у Греції, на цій посаді відіграв важливу роль у депортації грецьких євреїв. З 5 жовтня 1944 призначений Вищим керівником СС і поліції на Дунаї.
Смерть
Після війни Вальтера Шиману заарештували союзники, перебуваючи під вартою в Зальцбурзі, у вересні 1948 року він покінчив життя самогубством.