Né à Posen en , il adhère au NSDAP en 1933. En 1934, il obtient son diplôme en droit avant de rejoindre la Gestapo en 1936, où il est placé par Reinhard Heydrich au sein d'une unité contrôlant les sectes religieuses allemandes. En 1938, il participe à la marche allemande dans la région des Sudètes, et en 1939, à l'annexion de la Bohême-Moravie. Il est par la suite été nommé conseiller politique du GauleiterFritz Sauckel à Thuringe. Après le déclenchement de la guerre en , il devint chef d'un Einsatzkommando à Poznań. En 1940, il rejoint la 3e division SS Totenkopf en marche vers la France.
Lorsqu'il rejoint la Norvège pendant l'attaque allemande, Flesch est promu SS-Sturmbannführer. et devient Kommandeur der Sipo und des SD à Bergen. Le , il est nommé Kommandeur der Sicherheitspolizei und des Sicherheitsdienst à Trondheim. En tant que commandant du district, il est également chef du camp de concentration de Falstad et des prisons de Trondheim. Gerhard Flesch est promu SS-Obersturmbannführer et reçoit le titre de Oberregierungsrat, son supérieur immédiat étant Heinrich Fehlis. Le , il fuit Trondheim avec un lingot d'or dans ses bagages, mais il est rattrapé et renvoyé avec une escorte de police en train, au cours duquel il tente à maintes reprises de s'échapper.
Connu comme tortionnaire notoire, il ordonna l'exécution de nombreux membres du mouvement de résistance norvégien sans aucun procès. Après la guerre en 1946, il fut jugé et condamné à mort pour tortures et de meurtres de prisonniers. Il fut fusillé à minuit pile le à la forteresse de Kristiansten, à Trondheim. Quelques instants avant l'ordre de faire feu, Gerhard Flesch cria haut et fort "Heil Hitler".