Il reçoit sa première éducation musicale à la maison, grâce à sa mère, puis à l’âge de 7 ans sous la direction de Louis Liebe(en), un ancien élève de Louis Spohr. Son père, un important médecin juif, fait déménager sa famille après 1848 et ils s’installent à Francfort-sur-le-Main. Friedrich Gernsheim y étudie sous la férule d’Edward Rosenhain, frère de Jakob Rosenhain(de). Il se produit pour la première fois sur scène en tant que pianiste en 1850 et part en tournée pendant deux ans, puis s’installe avec sa famille à Leipzig, où il étudie le piano avec Ignaz Moscheles à partir de 1852. Il passe les années 1855–1860 à Paris, où il rencontre Théodore Gouvy, Gioachino Rossini, Édouard Lalo et Camille Saint-Saëns.
Ses voyages l’emmènent ensuite à Sarrebruck, il prend en 1861 le poste de chef d’orchestre libéré par Hermann Levi, puis à Cologne, où en 1865 Ferdinand Hiller le nomme au conservatoire (Engelbert Humperdinck et Carl Lachmund seront de ses élèves). De 1874 à 1890, il est directeur musical de la Société philharmonique de Rotterdam. Il est nommé professeur au conservatoire Stern de Berlin, puis en 1897 il rejoint l’Académie des arts.
Œuvres
Œuvres pour orchestre
Symphonies
Symphonie no 1 en sol mineur, op. 32, 1875
Symphonie no 2 en mi majeur, op. 46, 1882
Symphonie no 3 en ut mineur (Miriam ou Mirjam), op. 54, 1887
Symphonie no 4 en si bémol majeur, op. 62, 1895
Concertos pour piano
Concerto en ut mineur, op. 16, 1869
Concertos pour violon
Concerto no 1 en ré majeur, op. 42, 1880
Concerto no 2 en fa majeur, op. 86, 1912
Fantasiestück pour violon et orchestre en ré majeur, op. 33, 1875
Concerto pour violoncelle
Concerto en mi mineur, op. 78, 1907
Zu einem drama, Poème symphonique op. 82, 1910
Waldmeisters Brautfahrt, ouverture en mi majeur, op. 13, 1873
Divertimento, pour flute et cordes, op. 53, 1887
Elohenu, chant hébraïque pour violoncelle et petit orchestre (ou piano), 1882