In oktober 1938 kreeg Mravinski de functie die hij tot 1988 zou houden: eerste dirigent van het Leningrads Filharmonisch Orkest.[1] Het Leningrads Filharmonisch verwierf vooral in Rusland een niet te evenaren reputatie, in het bijzonder voor het uitvoeren van Russische muziek (Tsjaikovski en Sjostakovitsj). Gedurende de Tweede Wereldoorlog werd Mravinski samen met het orkest geëvacueerd naar Siberië.
Zoals vele Russische dirigenten bij premières had Mravinski de gewoonte de partituur boven zijn hoofd te zwaaien tijdens het slotapplaus. Mravinski verzorgde de wereldpremière van zes symfonieën van Dmitri Sjostakovitsj, namelijk de nummers 5, 6, 8 (die Sjostakovitsj aan hem opdroeg), 9, 10 en 12. Verder verzorgde hij de première van Sergej Prokofjevszesde symfonie, in Leningrad, 1947.
Mravinski maakte van 1938 tot 1961 plaatopnamen. Daarna maakte hij nog vijf live-opnamen. Zijn opnamen met het Leningrads Filharmonisch Orkest van de symfonieën 4, 5 en 6 van Tsjaikovski zijn legendarisch. Zijn laatste opname was de live-opname van Sjostakovitsj' symfonie nr.12.
Mravinski was een enthousiast dirigent die het tempo zo vaak mogelijk wisselde om het effect wat hij wilde bereiken te verhogen. Hij had ook veel controle over de dynamiek. Overgebleven beeldmateriaal laat zien dat hij een sobere stijl van dirigeren had,[2] en simpele en duidelijke gebaren maakte, vaak zonder baton. De criticus David Fanning schreef eens over een van zijn uitvoeringen van Tsjaikovski:
Het Leningrad Filharmonisch Orkest speelde als een wilde hengst, ternauwernood in bedwang gehouden door de wilskracht van haar meester. Het kleinste onderdeel wordt vol trotse kracht op zijn plaats gezet. Het beest kan er op elk moment in galop vandoor gaan, zodat je niet weet of je opgewonden of juist angstig moet zijn ".
