London est né à Bonn dans une famille juive libérale[1],[2]. Son père, Franz London, professeur de mathématiques à l'université de Bonn décède alors que Heinz a neuf ans. Il est alors soutenu par son frère aîné Fritz dont il restera très proche toute sa vie. Il suit les traces de celui-ci en étudiant la physique. Il soutient une thèse sous la direction de Francis Simon à université de Wrocław en 1933.
En 1936, l'argent qui avait financé les scientifiques réfugiés se tarit et Lindemann ne parvient pas à trouver des fonds pour offrir des postes aux réfugiés. Heinz qui occupait alors un poste subalterne sans aucun espoir de rester à Oxford, accepte donc un poste au laboratoire Wills de l'université de Bristol. Après le déclenchement de la Seconde Guerre mondiale, en septembre 1939, il s'installe à l'université Duke.