Ehrlichman était un proche collaborateur de Nixon, depuis sa participation à la campagne de ce dernier, à l'élection présidentielle de 1960. Lors de la victoire de Nixon en 1968, il devient son conseiller juridique, avant d'être remplacé au bout d'un an par John Dean, afin d'occuper le poste de conseiller aux Affaires Intérieures, de 1969 à 1973.
Avec Bob Haldeman, secrétaire général de la Maison Blanche, il est le plus proche collaborateur de Nixon. Les deux hommes sont surnommés « le mur de Berlin », compte tenu de leur propension à faire barrage autour de leur président, à la fois pour lui permettre de se concentrer sur la politique internationale et pour lui éviter d'être touché par les problèmes de politique intérieure, mais aussi pour écarter les autres collaborateurs.
Au cours de la commission d'enquête sénatoriale sur le Watergate mise en place en , Ehrlichman, dont le rôle est central dans la formation de l'équipe des cambrioleurs des locaux du Parti Démocrate en , est appelé à témoigner, mais n'avoue rien. Le témoignage de John Dean charge quant à lui Ehrlichman, Haldeman et Nixon. Le , le président demande à Ehrlichman et Haldeman de démissionner. Le , Ehrlichman est reconnu coupable de conspiration, parjure et obstruction à la justice, et est condamné à 18 mois de prison.
En 1982 il a écrit ses mémoires : Witness to Power: The Nixon Years[5].
↑(en-US) David Stout, « John D. Ehrlichman, Nixon Aide Jailed for Watergate, Dies at 73 », The New York Times, (ISSN0362-4331, lire en ligne, consulté le )