Han var søn af komponisten og pianistenSiegfried Langgaard. Som 11-årig vakte han opsigt med sine improvisationer på det nye orgel i Marmorkirken og blev i 1917 kaldt en asocial særling. Langgaard foretrak et senromantisk musiksprog med en vis indflydelse af Richard Strauss, men skrev også radikalt eksperimenterende stykker. Han var modstander af mange af samtidens tendenser i dansk kirkemusik og følte et oppositionsforhold til tidens førende komponist Carl Nielsen. Langgaard søgte gennem 20 år stillinger som organist, men blev forbigået, indtil han til sidst fik stillingen som domorganist i Ribe.
Rued Langgaard komponerede flere store orkesterværker. Skønt han var protestant, var Langgaard tiltrukket af både katolicismen, teosofiskfilosofi og mysticisme. For ham var musikken og det kristne tankegods to sider af samme verden. Hans musik bærer titler som Afgrundsmusik, Syndflod af Sol, Antikrist og Sfærernes Musik. OperaenAntikrist er som den første danske opera udgivet på dvd i maj 2005. Langgaards egen tekst til operaen viser et ejendommelig sprogbrug. Operaen er optaget i den danske Kulturkanon.
Rued Langgaard blev født i København og var den eneste søn af komponist og kongelig kammermusiker Siegfried Langgaard (1852-1914) og Emma Langgaard[3] (født Foss, 1861-1926), begge var pianister. I en alder af fem begyndte Rued at tage klaverundervisning hos sin mor og senere hos sin far og en privatlærer. Hans talent viste sig hurtigt, og som syv-årig var han i stand til at spille SchumannsDavidsbündlertänze og Chopins mazurkaer. På dette tidspunkt var han begyndt at komponere små klaverstykker og spille orgel. Som 10-årig begyndte han at få orgelundervisning af Gustav Helsted, der var organist ved Jesuskirken i Valby og violinundervisning af Chr. Petersen, et tidligere medlem af Det Kongelige Kapel.
En håndfuld af Langgaards første kompositioner, to klaverstykker og to sange, blev udgivet, da han var 13 år. Omkring samme tid fik han i en meget kort periode (på ca. en måned) undervisning af komponisten Carl Nielsen. Et år senere blev hans kor- og orkesterværk Musae triumphantes opført ved en koncert i København - det markerede hans offentlige debut som komponist. I løbet af sine teenageår fortsatte han med at komponere og på rejser med sine forældre mødte han dirigenterne Arthur Nikisch og Max Fiedler.
Som 18-årig fungerede Langgaard som organistassistent ved Marmorkirken (Frederiks Kirke) i København. Det følgende år (1913) fik hans symfoni nr. 1 "Klippepastoraler" sin førsteopførelse ved en koncert i Berlin med Berliner Philharmonikerne[4] under Max Fiedlers ledelse. Selv dirigerede han i 1915 i Stockholm sit orkesterværk Sphinx.[5]
Hans far døde i 1914, og fra 1915 til 1917 var han organistassistent ved Garnisons Kirke i København. I 1916 tildeltes han det Anckerske Legat, men pga. krigen måtte han udsætte en udenlandsrejse til 1921.[4] Fra 1917 søgte han uden succes stilling som organist ved et stort antal kirker i København. I 1921 var han på studieophold til Tyskland, Holland, Østrig og Italien.[4] I 1922 flyttede en ung kvinde ved navn Valborg Constance Olivia Tetens (hun blev kendt som Constance) ind som medhjælper i huset hos Rued Langgaard og hans mor i København. Et år efter Langgaards mor døde i 1926, giftede han sig med Constance Tetens.
Selv om Langgaard fik statsstøtte fra en alder af 30 år, blev hans værker og jobansøgninger næsten alle afvist af etablissementet. Først i en alder af 46 år lykkedes det ham at få en fast stilling som organist ved domkirken i Ribe. Kort før sin 59-års fødselsdag døde Rued Langgaard i Ribe, stadig uden anerkendelse som komponist.
I Rued Langgaards ungdom var hans kompositoriske stil præget af de senromantiske strømninger. Især var han påvirket af Richard Wagner og Richard Strauss, og som Strauss var han mester i orkestrering. Også den danske komponist Niels W. Gade anså Langgaard livet igennem som en stor inspirator. Omkring 1916 blev hans stil mere eksperimenterende og grænsesøgende. Tysk modernisme og danskeren Carl Nielsens tonesprog fængede og inspirerede ham. Midt i 1920’erne vendte han modernismen ryggen og søgte tilbage til barndommens musikalske idealer med Niels W. Gade som bærende inspirationsgrundlag. I tiden der kom, kæmpede Langgaard med sit musikalske udtryk og mange af hans senere værker er meget dramatiske og udstyret med kolossale humørsvingninger. Langgaard 16 symfonier er så forskellige i deres udtryk, at man nærmest ikke skulle tro, de er skrevet af den samme komponist.
Orkesterværket Sfærernes musik fra 1916-18 er et af Langgaards hovedværker. Det er et komplekst og fascinerende værk, der på mange måder er forud for sin tid. Besætningen er stort orkester, orgel, kor, et "fjern-orkester", sopran-solist samt et klaver, hvor man skal spille direkte på strengene. Stykket blev kun opført to gange (i Tyskland i 1921/1922) i Langgaards levetid og lå gemt i næsten 50 år, før det blev genopdaget. Det skete i slutningen i 1968 hvor komponisten György Ligeti fik værket i hånden og proklamerede "Mine herrer, jeg har lige opdaget, at jeg er Langgaard-epigon!". Flere af Ligetis kompositionstekniske træk - anvendelsen af clusters, lagdelinger m.v. - findes nemlig i Sfærernes Musik. Det førte til at værket kom til opførelse i Sverige (Stockholm) i 1968, og dermed var en renæssance for Langgaard indledt. I 2010 fik Sfærernes musik sin britiske premiere ved BBC's promenadekoncerter, dirigeret af Thomas Dausgaard.[6]
Langgaards samlede produktion omfatter over 400 værker; heraf mere end 150 sange, værker for klaver, orgel og operaen Antikrist.