Va estudiar amb Alfred Borrotau i va debutar el 1920 en la Volksoper de Viena i va prosseguir la seva carrera en teatres d'Alemanya.
Posseïdor d'una de les veus de baix de tipus fosc i cavernós més grans del segle xx, Weber tenia una demanda igualment alta de papers dolents i personatges nobles.[1] Va ser un exponent destacat de la tècnica vocal coneguda com "escorça de Bayreuth".[2] A mitjans de la dècada de 1920 Weber cantava en papers de mida mitjana i principal amb companyies més petites a tota Alemanya. El 1932 es va unir a l'Òpera Estatal de Baviera i el 1936 va ser convidat al Covent Garden on va cantar personatges wagnerians per al seu registre com Pogner, Gurnemanz, Hunding, Hagen, Daland, Rei Marke i a més Osmin, Rocco i el Commendatore.
