Noch während des Studiums der Kirchenmusik an der Hochschule für Musik und Darstellende Kunst in Frankfurt am Main gründete Otto 1981 das Vokalensemble Frankfurt. Mit diesem aus jungen, zum Teil professionellen Sängern bestehenden Kammerchor, der sich auf die Erarbeitung anspruchsvoller und selten aufgeführter Werke aller Epochen spezialisierte, errang Otto international bedeutende Wettbewerbserfolge, so 1984 den 1. Preis beim Hessischen Chorwettbewerb, 1985 den 1. Preis beim Deutschen Chorwettbewerb und Sonderpreis für die beste Interpretation eines zeitgenössischen Werkes (Lars Edlund Elegi), 1988 den 1. Preis beim Chorwettbewerb Guido d' Arezzo und 1990 den 1. Preis beim Chorwettbewerb der BBCLet the Peoples Sing.
1986 wurde Otto zum Künstlerischen Leiter des Bachchor Mainz berufen. Otto erweiterte die künstlerischen Aktivitäten um spätromantische und zeitgenössische Musik, so Franz SchmidtsDas Buch mit sieben Siegeln, Hanns EislersDeutsche Sinfonie, BrittensWar Requiem, sowie Müller-Hornbachs Am Rande der Zeit oder Uraufführungen Thilo Medeks. Ottos Ruf als Spezialist auf dem Gebiet der historisch informierten Aufführungspraxis bis hin zur Epoche der Romantik, brachte einerseits Produktionen wie Bachs Matthäuspassion in der Fassung Mendelssohns oder Bachs Johannespassion in der Fassung Robert Schumanns als Erstaufführungen in die rheinland-pfälzische Landeshauptstadt, andererseits aber auch vielbeachtete Aufführungen von Bachs h-Moll-Messe in solistischer Besetzung.
Von 1990 bis April 2006 hatte Ralf Otto eine Professur für Chordirigieren an der Folkwang Hochschule in Essen inne; seit dem Beginn des Sommersemesters 2006 ist er in gleicher Funktion an der Hochschule für Musik in Mainz tätig.
Camille Saint-Saëns u. a. Noel – französische Weihnachtsmusik der Romantik, (Saturova, Pätzer, Vondung, Mammel, Boesch, L' arpa festante – SONY, Deutsche Harmonia Mundi)
W.F. Bach: Kantaten, (Mields, Romberger, Poplutz, Mertens, L' arpa festante – Carus & Accentus Leipzig) Mit dieser Weltersteinspielung einiger lange verschollener Kantaten auf CD bzw. DVD für Carus und ZDF/Arte aus dem Jahr 2010 leistete das Mainzer Ensemble unter der Leitung Ralf Ottos einen wesentlichen Beitrag zur beginnenden Renaissance der Werke des ältesten Bachsohnes Wilhelm Friedemann.