Opphavleg var Toscanini cellist, og han vann tidleg eit studiestipend til eit lokalt musikkonservatorium. Der blei han medlem i eit operaorkester som reiste på turné i Sør-Amerika i 1886. Då dei skulle framføra VerdisAïda i Rio de Janeiro hadde korsongarane blitt så leie av den lokalt innleigde dirigentens slappe grep om orkesteret at dei streika og nekta å syngja før det hadde blitt skaffa ein vikardirigent. To dirigentar forsøkte så å fullføra arbeidet med operaen i tide, men utan å lukkast. I desperasjon føreslo songarane den unge cellisten Toscanini som dirigent, sidan han kunne heile operaen utanåt. Toscanini hadde inga erfaring med direksjon, men vart til slutt overtydd av songarane til å gripa fatt i taktstaven klokka kvart over ni om kvelden. Han dirigerte dermed den to og ein halv times lange operaen, berre hjelpt av minnet. Publikum vart overraska, fyrst av kor ung denne ukjende dirigenten var, deretter av kor godt han meistra jobben, og gav stormande applaus. Resten av sesongen vart Toscanini sett til å dirigera atten operaer, alle med stor suksess. Slik byrja dirigentkarrieren til Arturo Toscanini, berre 19 år gamal.
Tilbake i Italia heldt Toscanini fram som cellist ei stund til, men gradvis overtok dirigentkarrieren for cellistkarrieren. Han spela cello i verdspremieren på Otello av Giuseppe Verdi ved La Scala i Milano i 1887. Komponisten vart imponert då Arrigo Boito skrytte over den unge cellistens evne til å tolka Verdis musikk. Toscanini skal ved eit anna høve ha spurt komponisten personleg til råds då han skulle dirigera Verdis Te Deum. Toscanini spurde om han fekk lov til å dirigera ein allargando ein stad der det ikkje stod notert, og Verdi svara at han hadde utelate allargandoen i nota av frykt for at «einskilde tolkarar ville ha overdrive markeringa.» I 1897 gifte Toscanini seg med Carla de Martini. Dei to fekk tre born saman og blei verande gifte livet ut.
Internasjonalt ry
Mot slutten av 1800-talet vart Toscanini sett til å dirigera verdspremieren av både La Bohème av Giacomo Puccini og Pagliacci av Leoncavallo. I 1896 var Toscanini i Torino for å dirigera sin fyrste symfonikonsert, med verk av Schubert, Brahms, Tsjajkovskij og Wagner. Berre i året 1898 heldt han 43 konsertar i Torino. Same året vart han utnemnd til sjefdirigent ved La Scala, ei stilling han beheldt fram til 1908, og heldt fram med i 1920-åra. Frå 1908-1915 dirigerte han Metropolitan Opera i New York by. I mai 1915 hadde Toscanini tinga billett til å reisa til Europa om bord på skipet RMS «Lusitania» så snart sesongen hans ved Metropolitan var over. Toscanini bestemte seg for å slutta konsertsesongen tidlegare enn planlagt, og reiste dermed med eit anna skip enn «Lusitania», som vart senka av ein tysk torpedo i mai 1915. Frå 1926 til 1936 dirigerte han New York Philharmonic Orchestra samtidig som han reiste hyppig på turnéar og var ein ofte brukt gjestedirigent ved mange konsertsalar over heile verda. Mellom anna dirigerte han under Festspela i Bayreuth 1930-31 og under Festspela i Salzburg 1934-37.
«Mi livsførsle har vore, er, og vil alltid vera gjenklangen av mitt samvit.»
Arturo Toscanini.
Tilhøve til fascismen
I 1919 stilte Toscanini som parlamentskandidat for fascistpartiet, men vendte seg seinare frå fascismen og trassa Benito Mussolini fleire gonger etter at denne kom til makta i 1922. Trasset kom særleg til uttrykk ved at Toscanini nekta å visa biletet av Mussolini eller å dirigera fascistane sin kampsong, «Giovinezza» på La Scala. Til ein ven skal han ha sagt i raseri: «Dersom eg var i stand til å drepa ein mann, ville eg ha drepe Mussolini!»
Under ein minnekonsert for komponisten Giuseppe Martucci i Bologna i 1931 fekk Toscanini ordre om å opna med «Giovinezza», men Toscanini nekta å setja orkesteret til å spela, sjølv om utanriksminister Galeazzo Ciano var til stades i publikum. Etterpå vart Toscanini slått og skada av ei gruppe svartskjorter. Mussolini straffa Toscaninis oppførsel ved å inndra passet hans, setja han under konstant overvåkning og avlytta telefonen hans. Passet vart omsider tilbakelevert etter store protestar mot behandlinga av dirigenten. Toscanini forlét det fascistiske Italia då andre verdskrigen braut ut, og vart amerikansk statsborgar i 1939.
I 1954 skulle Toscanini dirigera ein rein Wagner-konsert i Carnegie Hall, men under konserten fekk han eit momentant minnetap, truleg forårsaka av stans av blodtilførsla til hjernen. Dette vart siste gongen Toscanini dirigerte live offentleg nokonsinne, og han pensjonerte seg 87 år gamal. Musikarar frå NBC Symphony Orchestra heldt fram med ny dirigent under namnet Symphony of the Air fram til 1963, då det blei oppløyst. Etter 1954 dirigerte Toscanini sju kjende operaer på radio av komponistar som Verdi, Puccini og Beethoven. Desse siste radioinnspelingane vart tekne opp og spela inn på cd for ettertida.
Død og ettermæle
Den 16. januar 1957 døydde Arturo Toscanini heime i Bronx i New York by. Kroppen hans vart send tilbake til Italia, der han vart gravlagt i Milano. På minnesteinen om han står ei innskrift frå den ufullendte operaen Turandot av Puccini: «Her sluttar operaen, for på dette punktet døydde maestroen.» Ein arie frå VerdisRequiem vart sunge i gravferda hans.
I 1987 vart Arturo Toscanini posthumt tildelt Grammy Lifetime Achievement Award for sitt livsverk som dirigent.