Am 1. Mai 1945 kehrte Matern mit der Gruppe um Anton Ackermann nach Deutschland zurück, die unter dessen Leitung als Regionalgruppe in der Region Sachsen für die KPD aktiv sein sollte (neben der für die gesamte sowjetische Besatzungszone vorgesehenen Gruppe Ulbricht). Matern gehörte zu den Unterzeichnern des Programmatischen Aufrufs des ZK der KPD vom 11. Juni 1945. Bis 1946 war er erster Sekretär der Bezirksleitung Sachsen der KPD und nach der Zwangsvereinigung von SPD und KPD in der sowjetischen Besatzungszone von 1946 bis 1948 gemeinsam mit Karl Litke Vorsitzender des Landesverbandes Groß-Berlin der SED. Von 1946 bis 1950 war er Mitglied des Zentralsekretariats des Parteivorstandes, ab 21. Oktober 1948 Vorsitzender der Zentralen Parteikontrollkommission (ZPKK)[1] und ab 1950 Mitglied des Politbüros des ZK der SED. Im Politbüro gehörte die Steuerung der „Abteilung Verkehr“ des Zentralkomitees zu seiner Zuständigkeit, die für die geheimen Verbindungen zur ab 1955 illegalen KPD in Westdeutschland, später zur DKP und für die Finanzierung dieser Parteien verantwortlich war. Als einer der führenden Politiker beteiligte er sich an der marxistisch-leninistischen Ausrichtung der SED.
Als stellvertretender Vorsitzender des Ausschusses für den Abschluss eines Friedensvertrags mit Deutschland (spätere Bezeichnung Friedensausschuss) im Deutschen Volksrat wirkte er an dessen Formulierung mit. Im Rahmen der Volkskongreßbewegung nahm er an allen drei Deutschen Volkskongressen teil. Ab 1949 war er Abgeordneter der Provisorischen Volkskammer. Er leitete die Volkskammerdelegation zum Deutschen Bundestag, die vermeintliche Wege zu einer gesamtdeutschen Verständigung vorschlug. Die Delegation wurde am 19. September 1952 vom BundestagspräsidentenHermann Ehlers empfangen, die Vorschläge wurden jedoch nicht beantwortet.
Von 1950 bis 1954 war Matern Vizepräsident der Volkskammer, danach erster Stellvertreter des Präsidenten und von 1957 bis 1960 Vorsitzender des Ständigen Ausschusses für die örtlichen Vertretungen. Er war Mitglied des Nationalen Verteidigungsrates der DDR.
Er war von dem Führungsanspruch der SED überzeugt. Auf der 7. Gesamtdeutschen Arbeiterkonferenz 1958 in Leipzig sagte er:
„Die Staatsmacht in den Händen zu haben, das ist eine große Sache. […] Wir denken nie daran, die Arbeiter- und Bauernmacht wieder aufzugeben. Bei uns lassen wir nicht zu, dass jemand bei den Wahlen kandidiert, der den Kapitalismus wieder aufbauen will. […] Deshalb gibt es auch keine Opposition nach bürgerlichen Vorstellungen.“
Viele Straßen und Schulen trugen den Namen Hermann Materns. Die Luisenstraße in Berlin trug von 1971 bis 1991 seinen Namen. Im sachsen-anhaltischen Möckern, im sächsischen Wilthen ebenso wie in den brandenburgischen Orten Neuruppin und Neuhardenberg sowie in Bergen auf Rügen gibt es immer noch nach ihm benannte Straßen. In Magdeburg war die SED-Bezirksparteischule und das Pionierhaus nach ihm benannt. In seiner Geburtsstadt Burg gab es bis Anfang der 1990er Jahre ein Kreiskulturhaus mit dem Namen Hermann-Matern-Haus, das nach einem Umbau jetzt Stadthalle Burg heißt. Das davor befindliche Matern-Denkmal wurde nach der Wende in der DDR entfernt.
Berlin und Deutschland. Reden zu Problemen der Zeit. Berlin, 1947.
1947 das Jahr größter Entscheidungen. Unsere Aufgaben im neuen Jahr. Rede auf der Funktionärskonferenz der SED am 5. Januar 1947. Berlin 1947.
Der Weg. Frieden, Freiheit, Wohlstand. Berlin 1948.
Die Rolle Ernst Thälmanns bei der Schaffung der revolutionären Massenpartei der Arbeiterklasse. Referat a. d. Propagandistenkonferenz d. Abteilung Propaganda beim ZK der SED am 14. und 15. Juli 1951 in Berlin. Berlin 1951.
Breite Entfaltung von Kritik und Selbstkritik. Diskussionsbeitrag auf der 2. Parteikonferenz der SED, Berlin, 9.–12. Juli 1952. Berlin 1952.
(Hrsg.): Weissbuch über den Generalkriegsvertrag. Leipzig 1952.
Über die Durchführung des Beschlusses des ZK der SED „Lehren aus dem Prozess gegen das Verschwörerzentrum Slansky“. 13. Tagung des ZK der SED, 13.-14. Mai 1953. Berlin 1953.
Die unerschütterliche Einheit und Geschlossenheit der Partei – Quelle ihrer Macht und Siege! Bericht der Zentralen Parteikontrollkommission auf dem IV. Parteitag der SED vom 30. März bis 6. April 1954. Berlin 1954.
Deutschland in der Periode der Weltwirtschaftskrise 1929–1933. Der Kampf der Kommunistischen Partei Deutschlands um die Aktionseinheit der Arbeiterklasse gegen die Gefahr des Faschismus und des Krieges. Berlin 1956.
Deutschland in der Periode der relativen Stabilisierung des Kapitalismus 1924–1929. Der Kampf des deutschen Proletariats unter Führung der KPD gegen das Wiedererstarken des deutschen Imperialismus. Berlin 1956.
Aus dem Leben und Kampf der deutschen Arbeiterbewegung. Dietz, Berlin 1958.
Der Parteitag der SPD und die Politik der SED zur Herstellung der Aktionseinheit der deutschen Arbeiterklasse im Kampf gegen die atomare Aufrüstung und für die Bildung einer Konföderation beider deutschen Staaten. Berlin 1958.
Im Kampf für Frieden, Demokratie und Sozialismus. Ausgewählte Reden und Schriften. Berlin 1963.
Axel Thiem: Matern, Hermann. In: Guido Heinrich, Gunter Schandera (Hrsg.): Magdeburger Biographisches Lexikon 19. und 20. Jahrhundert. Biographisches Lexikon für die Landeshauptstadt Magdeburg und die Landkreise Bördekreis, Jerichower Land, Ohrekreis und Schönebeck. Scriptum, Magdeburg 2002, ISBN 3-933046-49-1 (Artikel online).
Hermann Weber, Andreas Herbst: Deutsche Kommunisten. Biographisches Handbuch 1918 bis 1945. 2., überarbeitete und stark erweiterte Auflage. Dietz, Berlin 2008, ISBN 978-3-320-02130-6.