Jerofejevs vader (geboren in 1920) was een tolk van Jozef Stalin en later Sovjet-gezant in Parijs. Van 1955 tot 1959 leefde het gezin Jerofejev in Parijs. Daarna keerde de familie terug naar Moskou, waar Jerofejev literatuur en taalwetenschap studeerde. Hij sloot zijn studie af met een dissertatie over Dostojevski en het Franse existentialisme.
Vanaf midden jaren zeventig werd Jerofejev literair actief, maar in 1979 werd hij uit de schrijversbond gestoten vanwege zijn medewerking aan de schrijversalmanak 'Metropol', waarin ook werk werd gepubliceerd van relatief onbekende (in de Sovjet-Unie niet altijd geaccepteerde) schrijvers.
Tijdens de perestrojka verwierf Jerofejev internationale bekendheid met zijn roman Een schoonheid uit Moskou (1990), over een mooie jonge vrouw die in de chaotische post-Sovjettijd hogerop probeert te komen. Het boek werd in 27 talen vertaald.
In Rusland is Jerofejev een bekend literatuurcriticus en verschijnt hij geregeld op tv. Verder schrijft hij geregeld voor The Times Literary Supplement, The New Yorker, The New York Review of Books en The International Herald Tribune.