Bernhard et Hanna Neumann eurent cinq enfants (deux filles et trois fils) dont quatre furent mathématiciens[5], le plus connu étant Peter Neumann. En 1973, après la mort de Hanna, Bernhard épousa Dorothea Frieda Auguste Zeim.
Dans sa seconde thèse, Neumann introduisit les « variétés de groupes » et rechercha entre autres si elles possédaient une base finie (Alexander Olshanskiy répondit par la négative pour le cas général en 1969[6]).
En 1949, il démontra, avec Hanna Neumann et Graham Higman, le principal théorème sur les extensions HNN (nommées d'après leurs trois initiales), dont il résulte entre autres que tout groupe dénombrable se plonge dans un groupe à deux générateurs.
En Australie, il joua un rôle important dans l'organisation des mathématiques à l'université et la formation des enseignants. Il fut fait pour cela compagnon de l'Ordre d'Australie en 1994.
Neumann fut vice-président de la London Mathematical Society de 1957 à 1959 et (vice-président puis) de 1966 à 1968, président de la Société australienne de mathématiques. En 1949, il reçut le prix de la Société scientifique d'Amsterdam. En 1952, il remporta le prix Adams (pour : An Essay on free products of groups with amalgamations). Il fut élu Fellow de la Royal Society en 1959 et devint en 1963 membre de l'Académie australienne des sciences, pour laquelle il publia en 1980-81 six volumes de Mathematics at work. En 1970, il fut orateur invité au congrès international des mathématiciens à Nice (le titre de sa conférence était : Properties of countable character).
Publications
Lectures on Topics in the Theory of Infinite Groups, 1960
Selected Works of Bernard and H. M. Neumann, 6 volumes