Gheorghe Zamfir incominciò a suonare, completamente da autodidatta, il flauto traverso tradizionale. Continuò la sua formazione all'Accademia di musica di Bucarest, dove fu alunno di Fanica Luca e in seguito, nel 1968, al conservatorio di Bucarest, senza conseguire alcun diploma di studio.
Divenne famoso presso il grande pubblico internazionale negli anni sessanta quando fu scoperto dall'etnomusicologo svizzeroMarcel Cellier che, durante quel periodo, si interessò profondamente della musica folk rumena, e grazie a una preziosa interazione amichevole con il giovane strumentista che in quel periodo era sempre più interessato da una profonda conoscenza per gli strumenti di natura etnica della famiglia dei flauti, Zamfir decise di dedicarsi definitivamente alla riscoperta e all'utilizzo solistico di strumenti flautistici meno conosciuti ma più antichi come i flauti di Pan, nelle loro diverse taglie. Da quel momento la sua notorietà crebbe sempre di più.
Nei suoi cinquant'anni di carriera, durante i quali ha contribuito in modo determinante a far conoscere il flauto di Pan al grande pubblico, Zamfir ha vinto 120 tra dischi d'oro e di platino e venduto 120 milioni di dischi in tutto il mondo.