Han var Richard Nixons kampanjesjef ved presidentvalget i 1968. Han tjenestegjorde som USAs justisminister fra 1969 til 1972. Han gikk av for igjen å lede en vinnende kampanje for Nixon.
I 1972 ledet Mitchell i egenskap av kampanjesjef komiteen for gjenvalg av president Richard Nixon. Komiteen (Committee to Re-elect the President) ble kjent under betegnelsen CREEP. Som komiteens leder ansatte Mitchell James McCord, en av innbruddstyvene i Watergateskandalen.
Lydbåndopptak fra Det hvite hus avslørte at Mitchell hadde deltatt i både planleggingen av innbruddet og i neddyssingen av skandalen. I 1975 ble han dømt for konspirasjoner, forhindring av rettferdighet og mened. Han fikk en fengselsstraff på mellom to og et halvt og åtte år.
Da reporteren Carl Bernstein skulle skrive en artikkel om Watergateskandalen i 1972 og ba Mitchell om en uttalelse, fikk han som svar: Katie Graham's gonna get her tit caught in a big fat wringer if that's published.[4]Katharine Graham var ansvarlig utgiver for Washington Post, der Bernsteins og Bob Woodwards reportasje om Watergateskandalen ble publisert.
