Rođen u Berlinu, Luther je u politiku ušao 1907. kao gradski savjetnik u Magdeburgu. Godine 1913. postao je tajnik Städtetaga, a 1918. gradonačelnik Essena. U prosincu 1922., kancelar Wilhelm Cuno je Luthera postavio za ministra hrane i agrikulture.
Tu poziciju zadržao je i 1924. kada je Wilhelm Marx postao kancelar. Luther je 1925. postavljen za kancelara, ali je Marx ponovo postao kancelar već 1926. Luther je nakon smarti Friedricha Eberta kratko služio kao privremeni njemački predsjednik.
Luther je 1930. postavljen za predsjednika Reichsbanka. Nakon toga je postavljen za njemačkog ambasadora u SAD-u, gdje je služio od 1933. do 1937., kada je otišao u mirovinu.