Il est nommé en ministre de la Justice de Schleswig-Holstein par Helmut Lemke. Après avoir été élu député au Landtag en , il est confirmé par Gerhard Stoltenberg. Ce dernier en fait son vice-ministre-président en et le désigne ministre des Affaires fédérales en . En , Uwe Barschel le maintient dans toutes ses fonctions. Il retrouve le ministère de la Justice entre et .
À la suite du scandale de l'affaire Barschel, ce dernier démissionne et Schwarz prend la direction du gouvernement du Land jusqu'aux élections anticipées de . Ne s'étant pas représenté, il quitte la vie politique alors que le SPD provoque l'alternance.
En , il obtient son premier diplôme juridique d'État à l'université de Hambourg, puis réussit le second en . Ayant passé son doctorat avec succès en , il s'installe comme avocat. Il exerce la profession de notaire à compter de .
Débuts en politique
Il est nommé le ministre de la Justice du Land de Schleswig-Holstein à l'âge de 41 ans, dans le second cabinet du ministre-président chrétien-démocrate Helmut Lemke. Il suspend donc ses activités professionnelles.
Lors des élections législatives régionales du , il se présente au Landtag dans la circonscription de Segeberg-West et l'emporte avec plus de 60 % des suffrages exprimés. Le nouveau ministre-président Gerhard Stoltenberg le confirme dans ses fonctions.
Ascension
Il ne conserve pas son mandat parlementaire à l'occasion du scrutin du . Stoltenberg le promeut néanmoins aux fonctions de vice-ministre-président le suivant, tout en le maintenant au ministère de la Justice. Ayant retrouvé le Landtag avec 51,3 % des voix dans la circonscription d'Ahrensburg au cours des élections du , il est nommé le suivant vice-ministre-président et ministre des Affaires fédérales.
Lorsque Stoltenberg démissionne le pour devenir ministre fédéral des Finances, il assume l'intérim de la direction du gouvernement régional jusqu'à l'investiture dix jours plus tard d'Uwe Barschel en tant que nouveau ministre-président. Celui-ci le maintient dans toutes ses responsabilités.
Il remporte un dernier mandat aux élections du . Barschel en fait l'homme fort de son nouveau cabinet, ajoutant à ses fonctions antérieures le poste de ministre de la Justice. Il en est relevé le .
Ministre-président
À la veille des élections du , l'affaire Barschel éclate. Ce scandale d'espionnage politique place la CDU en minorité face au SPD de Björn Engholm, une première depuis . Après avoir un temps résisté, Barschel se démet le . En sa qualité de suppléant, Henning Schwarz assume la gestion des affaires courantes.
Le Landtag n'étant pas capable d'investir un nouveau chef de l'exécutif, des élections anticipées sont convoquées le et aboutissent sur victoire éclatante du SPD. Le , Engholm devient ministre-président et Schwarz met un terme à sa carrière politique.