Ustanovljena je bila novembra 1722 v Astrahanu na podlagi ukaza Petra Velikega. Pod vodstvom admiralaFjodora Matvejeviča Apraksina je sodelovala v pohodu Petra Velikega v Perzijo v letih 1722–1723 ter v rusko-perzijski vojni (1804–1813). Med letoma 1767 in 1991 je bil njeno glavno pomorsko oporišče Baku.
Med drugo svetovno vojno je enota varovala pomorski vojaški transport, zlasti med Bitko za Stalingrad. Po Kaspijskem morju je Sovjetska zveza prejela del pomoči zaveznikov. V 1980-ih in 1990-ih letih je Kaspijska flotilja sodelovala pri preizkušanju ekranoplana Lunj.
Po letu 1991 izgubi enota del plovil na račun Kazahstanske vojne mornarice. V letih 2003 in 2015 pridejo v Kaspijsko flotiljo nova plovila, kot sta dve fregati razreda Gepard in šest korvet razreda Bujan. Danes enota velja za najmanjšo, a najsodobnejšo floto Ruske vojne mornarice.
Med Rusko invazijo na Ukrajino je 6. novembra 2024 Ukrajina z droni napadla pristanišče v Dagestanu, kjer je bilo privezanih osem ladij kaspijske flote. Ukrajinska vojaška obveščevalna služba je poročala, da sta bili poškodovani fregati Tatarstan in Dagestan, potencialno pa tudi več korvet razreda Bujan v bližini. Lokalne oblasti so trdile, da so sestrelile en dron, satelitski posnetki pa so pokazali več zadetkov pristaniške infrastrukture.[4]
↑На «Великом Устюге» поднят Андреевский флаг [At the Zelenodolsk plant named after A.M. Gorky, the laying down of the third MRK of the Buyan type will take place]. vpk-news.ru (v ruščini). 19. december 2014. Arhivirano iz spletišča dne 24. decembra 2014. Pridobljeno 9. oktobra 2015.