Основан в 1882 году группой из 54 музыкантов из оркестра Беньямина Бильзе, отказавшихся отправиться на традиционные для этого оркестра летние гастроли в Варшаву в железнодорожном вагоне 4-го класса. Первоначально оркестр выступал под названием «Бывший оркестр Бильзе» (нем.Frühere Bilsesche Kapelle), затем назывался Капеллой фон Бреннера (по имени первого руководителя), нынешнее название носит с 1887 года.
Деятельность оркестра финансируется городом Берлин вместе с Deutsche Bank. Многократный лауреат премий Грэмми, Граммофон, ЭХО и других музыкальных наград.
Здание, в котором первоначально размещался оркестр, было разрушено в результате бомбардировки в 1944 году. В послевоенные годы оркестр нередко давал концерты под открытым небом на фоне руин, собирая средства на восстановление концертного зала. Современное здание Берлинской филармонии построено в 1963 году на территории берлинского «Культурфорума» (Потсдамская площадь) по проекту немецкого архитектора Ганса Шаруна.
В 1945 году оркестр оказался в американской зоне оккупации и в период разделения Германии, с 1949 по 1990 год, находился в Западном Берлине.
В 2023 году латвийская скрипачка Винета Сарейка стала первой женщиной, занявшей в оркестре пульт первого концертмейстера[1].