Hoewel Neuhaus' ouders beiden pianodocent waren is Neuhaus voornamelijk autodidact. De grootste invloed op zijn vroege artistieke ontwikkeling kwam van zijn neef Karol Szymanowski en van zijn oom Felix Blumenfeld tijdens bezoeken die Neuhaus aan zijn zuster bracht. Ook had hij enige lessen bij Aleksander Michałowski.[2] In 1902 gaf Neuhaus een recital in Jelisavetgrad met de elfjarige Mischa Elman en in 1904 verzorgde hij concerten in Dortmund, Bonn, Keulen en Berlijn. Hierna volgde hij lessen bij Leopold Godowsky in Berlijn en van 1909 tot het uitbreken van de Eerste Wereldoorlog in 1914 op diens masterclasses in Wenen.
Neuhaus werd geroemd om zijn poëtische spel en zijn pianistische raffinement. Hij was zijn hele leven bevriend met Boris Pasternak. Osip Mandelstam drukte zijn bewondering voor Neuhaus' spel uit in een gedicht. Stanislav Neuhaus, Heinrichs zoon uit zijn eerste huwelijk met Zinaida (die in 1931 met Pasternak hertrouwde) was ook een bekend pianist. Stanislav Bunin is zijn kleinzoon.