Il est le deuxième fils du duc Johann Wilhelm de Saxe-Weimar et de Dorothée-Suzanne de Simmern. À la mort de son père, en 1573, son frère aîné Frédéric Wilhelm Ier devient duc. Il meurt à son tour en 1602, laissant quatre fils mineurs. Jean II devient donc duc en leur nom, mais dès l'année suivante, un partage est effectué : Jean conserve la Saxe-Weimar tandis que ses neveux deviennent ducs de Saxe-Altenbourg.