Народившись у Лондоні, О'Лірі з трирічного віку жив у Дубліні, оскільки батько був ірландцем. Від 1973 року грав у юнацьких та резервних командах «Арсеналу». Дебют у головній команді відбувся у серпні 1975-го, на початку сезону 1975/76. З того часу він став одним з основних гравців клубу. Славився елегантною грою у захисті. Разом з «Арсеналом» тричі поспіль виходив у фінал кубка Англії: 1978, 1979 і 1980. На чемпіонаті світу 1990 року в ⅛ фіналу проти Румунії Девід О'Лірі забив вирішальний м'яч у серії післяматчевих пенальті, і Ірландія потрапила до чвертьфіналу. Це й досі найвищий результат ірландської збірної за всю історію.
Грав надійно, холоднокровно та розважливо.
Після 19-річної гри в «Арсеналі» О'Лірі влітку 1993 переходить до «Лідс Юнайтед». Зігравши лише кілька матчів у сезоні 1993/94, він отримав важку травму, яка зрештою змусила його припинити ігрову кар'єру.