El lugar de nacimiento de Armin Mueller-Stahl en Tilsit (actual Sovetsk) y que ha sido un edificio catalogado desde 2010
Fue hijo de Editta y Alfred Mueller-Stahl, un funcionario de banca de origen noble báltico. Aunque fue un notable violinista de concierto durante su adolescencia, dio un giro a su vida para dedicarse a la actuación en la ciudad de Berlín Este en 1950.
Mueller-Stahl ensanchó su carrera con su trabajo en la película estadounidense La caja de música (Music Box, 1989), como el padre del personaje de Jessica Lange. Posteriormente aceptó papeles de carácter fuerte en Kafka, de Steven Soderbergh, y Night on Earth, de Jim Jarmusch, ambas de 1991. También se le recuerda por su papel como el general soviético responsable de los Estados Unidos ocupados en la miniserie de televisión de la ABC Amerika (1987). Su papel protagonista en Avalon (1990) es también memorable.
A principios de los años 2000, Mueller-Stahl cosechó buenas críticas por su interpretación de Thomas Mann en una producción alemana histórica sobre la Familia Mann y en 2004 hizo otra incursión en la televisión estadounidense, como estrella invitada en cuatro episodios de la serie The West Wing como el primer ministro de Israel. En 2007 participa en la cinta Promesas del Este, volviendo a cosechar excelentes críticas por su papel de jefe mafioso. También cabe destacar su actuación en Ángeles y demonios como el cardenal Strauss. Curiosamente, en 2008 interpretó a uno de los personajes protagonistas de la célebre obra maestra de Thomas Mann Los Buddenbrook en la película del mismo nombre.
