1894 folgte er dem Ruf als 1. Bürgermeister nach Mühlhausen/Thüringen. 1898 erhielt er dort den Titel eines Oberbürgermeisters. Noch im selben Jahr wurde er zum Oberbürgermeister von Barmen gewählt. Am 9. Juli 1889 heiratete er in Soest Anna Vielhaber (* 17. August 1865 in Bochum), die Tochter des Apothekers Hedo Carl Vielhaber in Soest.
1906 nahm er das Amt des Oberbürgermeisters von Magdeburg an. In seiner kurzen Amtszeit betrieb Lentze die Eingemeindung der Magdeburger Vororte Cracau, Fermersleben, Lemsdorf, Prester, Rothensee, Salbke und Westerhüsen. Um in der Zukunft die Infrastruktur Magdeburgs verbessern zu können, veranlasste er den Erwerb von Grund und Boden für ein künftiges Industriegelände im Norden Magdeburgs. Auf seine Initiative wurde der Industriehafen gebaut. Außerdem beschäftigte sich Lentze mit der Verbesserung der Trinkwasserversorgung Magdeburgs. Zu diesem Zweck ließ er Wasseruntersuchungen im Fiener Bruch vornehmen.
Bereits seit 1895 vertrat Lentze die Städte, die ihn zum Oberbürgermeister gewählt hatten, im Preußischen Herrenhaus. In seiner kommunalpolitischen Tätigkeit hatte er sich auch als Finanzexperte einen guten Ruf erworben, was die preußische Regierung veranlasste, Lentze 1910 zum Finanzminister Preußens zu berufen. Im selben Jahr wurde er wegen seiner Verdienste um die Stadt zum Ehrenbürger von Magdeburg ernannt. Finanzminister blieb Lentze bis August 1917.
Das Kabinett Stresemann II ernannte ihn im Oktober 1923 zum Präsidenten der neu gegründeten Deutschen Rentenbank, der er bis zur Machtübernahme der Nationalsozialisten 1933 vorstand. Parteipolitisch hatte sich Lentze in der Deutschen Volkspartei (DVP) engagiert.
Reyk Seela: Landtage und Gebietsvertretungen in den reußischen Staaten 1848/67–1923. Biographisches Handbuch (= Parlamente in Thüringen 1809–1952. Tl. 2). G. Fischer, Jena u. a. 1996, ISBN 3-437-35046-3, S. 271–272.