Fils d'un forgeron, il entame des études de droit mais les abandonne pour devenir comédien. Il apprend l'art dramatique au Deutsches Theater de Berlin puis entame une carrière au théâtre et au cinéma. Mobilisé pendant la Seconde Guerre mondiale, il sert dans la Luftwaffe et est légèrement blessé. Il reprend ensuite sa carrière sur scène et à l'écran. Après-guerre, il participe à divers films américains qui lui permettent de se faire connaître du public international. On le voit notamment dans La Loi du silence d'Alfred Hitchcock, où il interprète le rôle de l'assassin, et dans Voyage au-delà des vivants avec Clark Gable et Lana Turner.