Die Entstehung ging aus den vorherigen Gründungen der „Accademia dei Floridi“ (1615), „Accademia dei Filomusi“ (1624/25) und „Accademia dei Filaschisi“ (1633) hervor. Graf Carrati vermachte der Accademia, die ihren Sitz im Palast seiner Familie nahm, eine wertvolle Orgel. Die Accademia Filarmonica stand in Bologna, wo es keinen Fürstenhof gab, im Rang einer Hofkapelle. Die Aufnahme als Mitglied erfolgte erst nach strenger Prüfung. Die Mitglieder trafen sich anfänglich zweimal wöchentlich zum gemeinsamen Musizieren (esercizi) und donnerstags zu den conference, wo die Werke aufgeführt wurden. Einmal im Monat fanden öffentliche Veranstaltungen statt. Die Accademia bestand ursprünglich aus drei Sektionen, jeweils für Komponisten, für Sänger und für Instrumentalmusiker. Das Ziel war, die besten Musiker Europas in ihr zu vereinen, nach dem Motto Carratis, „Unitate melos“. Im Jahr 1721 zählte die Akademie bereits 300 Mitglieder.
Die Musikbibliothek der Accademia, der Padre Martini 17.000 Bände und Handschriften vermachte, zählt weltweit zu den bedeutendsten Sammlungen ihrer Art, ein großer Teil der Bestände, die sich heute teilweise im „Civico Museo Bibliografica Musicale“ befinden, sind bislang ungesichtet.
