Aleksej Chvostov stamde uit een adellijke familie van grootgrondbezitters. Hij studeerde in 1893 af aan het prestigieuze Keizer Alexander Lyceum en begon aan een ambtelijke loopbaan. In 1898 trouwde hij met de dochter van senatorAlexander Popov (1835-1914). Van maart tot oktober 1904 was hij vicegouverneur van Minsk en van oktober 1904 tot juni 1906 vicegouverneur van Tula.
Aleksej Chvostov werd op 2 juni 1906 vicegouverneur van de provincie Nizjni Novgorod. Van 1910 tot 1912 was hij gouverneur van deze provincie. Hij gaf in 1912 zijn gouverneurschap op toen hij in de vierde Staatsdoema werd gekozen. Hij trad in de Doema op als voorzitter van de centrumrechtse parlementaire groep. Hij was een tegenstander van hervormingen[1] en tevens lid van de antisemitischeRuskoye sobraniye of Russische Raad.