Jeune, John P. O'Neill veut se consacrer à l'archéologie, mais en 1976 à l'âge de 24 ans, il intègre le FBI. De 1976 à 1995, il est simple agent et s'occupe de drogue, crime organisé et renseignement.
En 1997, il est le no 2 du FBI quand survient l'attentat en 2000 contre l'USS Cole au Yémen mettant en évidence la mauvaise collaboration des diplomates américains au Yémen qu'il dénonce dans les médias. En partie à cause de désaccords personnels qu'il avait au sein du FBI et du gouvernement fédéral, O'Neill démissionne à l'été 2001 et est nommé chef de la sécurité du World Trade Center (WTC) le .
Son corps sans vie est retrouvé après l'effondrement des tours lors des attentats du 11 septembre 2001. En 2002, O'Neill fut l'objet d'un documentaire sur la chaîne publique américaine Public Broadcasting Service intitulé L'Homme qui savait.
En 2003, est paru le livre de Murray Weiss The Man Who Warned America, retraçant sa vie. Ce livre décrit John O'Neill comme un homme ayant essayé sans succès de prévenir l'administration Bush d'un éventuel attentat sur le sol américain. Il suggère également un éventuel assassinat sur sa personne le jour même des attentats du , après qu'un avion a percuté la première tour du WTC.
Culture populaire
Une trilogie de la série de bande-dessinée uchronique française Jour J nommée Le prince des ténèbres est publiée à partir du [1].