Hanns Wiedmann obtient un doctorat de philosophie à l'université Louis-et-Maximilien de Munich en 1936. Il écrit d'abord des romans et des histoires surtout de thème militaire. Puisqu'il ne peut plus écrire sous son vrai nom en raison de ses publications durant le régime nazi, il choisit le pseudonyme de Johannes Kai, inspiré de sa ville natale.
Au début des années 1950, il débute dans le cinéma et écrit en collaboration des scénarios, en particulier de films de terroir. Il vient à la réalisation avec le film Le Lion de Babylone en 1959.