Serov was de zoon van componist Aleksandr Serov. Hij werd vooral beïnvloed door zijn leermeester Ilja Repin, zijn vriend Michail Vroebel en de kring van kunstenaars die in Abramtsevo bijeenkwamen. Serov concentreerde zich op het maken van portretten. Daarbij waren de kunstenaars uit zijn omgeving zijn favoriete modellen; bekende portretten zijn bijvoorbeeld van de landschapsschilder Isaak Levitan, de schrijver Nikolaj Leskov en componist Nikolaj Rimski-Korsakov (alle te zien in de Tretjakovgalerij).
Serov werd zeer populair, en kreeg opdrachten uit de hoogste kringen. Zo schilderde hij het portret van groothertog Pavel Aleksandrovitsj. Tegelijkertijd begon Serov ook aandoenlijke tafereeltjes van vooral kleine kinderen te schilderen.
Vanaf 1900 ging Serov over van een impressionistische stijl naar een meer modernistische stijl. Uit deze periode zijn bekend de portretten van de schrijver Maksim Gorki, de actrice Maria Jermolova en de beroemde basFjodor Sjaljapin. Uit protest tegen de Bloedige Zondag (9 januari 1905) verliet hij de Academie van Schone Kunsten van Sint-Petersburg. Hij begon daarna vooral historische schilderijen te maken.