Футбольную карьеру Оливер начал в детских и юношеских командах Эссена и Юрдингена. В 1987 году он стал чемпионом Германии для команд в возрасте до 20 лет.
Первым профессиональным клубом в карьере Бирхоффа стал юрдингенский «Байер». К тому момента команда переживала лучший период в своей истории и смогла занять третье место в Бундеслиге. Вклад Оливера в это достижение, однако, был небольшим — в дебютном сезоне он сумел отличиться лишь двумя голами. Не стали результативными и следующие два сезона, по итогам которых на счету нападающего также числилось всего два гола. В 1988 году он перешёл в «Гамбург», за который отыграл один сезон, но так и не смог раскрыться в полной мере, несмотря на то, что за сезон отличился шестью голами. После этого форвард отправился в мёнхенгладбахскую «Боруссию», в составе которой провёл всего несколько месяцев и отличиться не сумел.
После нескольких неудачных сезонов Бирхофф оказался не востребован в клубах Бундеслиги и перебрался в Австрию, став футболистом «Аустрии» из Зальцбурга. В первый же сезон он установил клубный рекорд результативности, забив 23 гола. В этой команде Оливер научился использовать свои сильные игровые стороны: высокий рост и физическая мощь. Значительную часть своих голов он забил головой[4], выигрывая при этом большинство единоборств у защитников.
В 1991 году немецкого нападающего приобрёл «Интернационале», за который он, однако, так и не сыграл ни одного матча. Сразу после перехода «нерадззури» отдали его в аренду в «Асколи». По итогам сезона команда заняла последнее место в Серии А, а результативность Бирхоффа вновь снизилась — за сезон он забил всего два гола. Несмотря на это руководство «бело-чёрных» приняло решение выкупить форварда. Уже в следующем сезоне он с 20 голами стал лучшим бомбардиром Серии В, а «Асколи» для выхода в элиту итальянского футбола не хватило всего двух очков. На протяжении следующих двух сезонов Бирхофф являлся основным нападающим команды, стабильно поражая ворота соперников. Однако в 1995 году «Асколи» вылетел в Серию С.
Несмотря на понижение в классе, внимание на Оливера обратил «Удинезе». Нападающему на тот момент было 27 лет и этот переход был последним шансом для него заиграть на высоком уровне. Уже в первый год немец стал лучшим бомбардиром команды, а в 1998 году стал лучшим бомбардиром Серии А, забив за сезон 27 голов — чуть менее половины всех голов команды. Во многом эти голы помогли «Удинезе» завоевать бронзовые медали чемпионата, второй раз в истории попал в призёры первенства, а Бирхофф был признан футболистом года в Германии.
После столь великолепного сезона Бирхофф перешёл в один из ведущих клубов Италии «Милан». По итогам дебютного сезона он с 20 голами стал лучшим бомбардиром «россонери» и сыграл одну из определяющих ролей в завоевании чемпионского титула, который стал первым клубным трофеем в его карьере. В частности, на счету немца оказался «золотой гол», забитый в ворота «Перуджи» в матче последнего тура. Перед началом следующего сезона состав «Милана» пополнил Андрей Шевченко, в результате чего Бирхофф стал больше играть в подыгрыше, регулярно создавая моменты для своего украинского партнёра. Сам Оливер, при этом, записал на свой счёт 14 голов. В следующем сезоне его результативность стала ниже (всего 9 голов), а состав команды пополнили Филиппо Индзаги, Марко Симоне и Хави Морено. В этих обстоятельствах 33-летний нападающий принял решение покинуть «Милан».
На правах свободного агента он стал футболистом «Монако», где не имел постоянной игровой практики, а уже в следующем сезоне вернулся в Италию, став футболистом скромного «Кьево». Этот клуб стал последним в его игровой карьере, которую он завершил летом 2003 года.
В сборной
За сборную Германии Бирхофф дебютировал 21 февраля 1996 года в возрасте 27 лет в матче против сборной Португалии, завершившимся победой немцев со счётом 2:1.
Через несколько месяцев он был включён в заявку сборной на Евро-1996. На протяжении всего турнира Оливер лишь дважды появлялся на поле, при этом не сумев как либо себя проявить. В финальном матче турнира против сборной Чехии, который состоялся 30 июня 1996 года, Бирхофф вышел на замену на 69-й минуте и менее чем через пять минут ударом головой сравнял счёт, а на 105-й минуте по правилу «золотого гола» оформил дубль и принёс своей команде титул чемпиона Европы.
На чемпионате мира во Франции Бирхофф был уже основным нападающим команды и забил три важным гола: в матче со сборной Югославии он на 80-й минуте сравнял счёт (матч закончился со счётом 2:2), в следующей игре против сборной Ирана он забил победный гол на 50-й минуте, а в матче 1/8 финала с командой Мексики вновь забил победный гол, принеся победу своей команде за пять минут до конца матча.
На Евро-2000 и чемпионате мира 2002 года Оливер был уже игроком ротации. При этом, если на чемпионате Европы он появился на поле лишь однажды, то на дальневосточном «мундиале» принял участие в пяти матчах и отметился голом в ворота сборной Саудовской Аравии. 30 июня 2002 года в финальном матче чемпионата против сборной Бразилии Бирхофф в последний раз вышел на поле в составе национальной сборной, заменив по ходу матча Мирослава Клозе. Помочь сборной ему не удалось, и матч закончился победой бразильцев со счётом 2:0.
По количеству голов за сборную Германии Бирхофф занимает 10-е место[когда?], отличившись 37 раз.
С назначением Юргена Клинсманна тренером сборной Германии, 29 июля 2004 года специально для Бирхоффа была введена новая должность спортивного менеджера сборной. С тех пор и по сегодняшний день Бирхофф бессменно работает в этой должности и является членом президиума Немецкого футбольного союза. В мае 2018 года Немецкий футбольный союз продлил контракт с Оливером Бирхоффом до 2024 года[6].