Diplômé de la Faculté de droit de Harvard, il exerce comme avocat dans un grand cabinet de Boston. Après la guerre il devient professeur à Harvard puis en parallèle conseiller et « plume » de John Kennedy alors sénateur du Massachusetts. En 1961, Cox rejoint l'administration Kennedy comme Solicitor general (n° 3 du département de la Justice). À l'époque les manifestants pour les droits civiques sont régulièrement pourchassés et violentés lors des manifestations. Il va alors devenir le « joueur de pointe » pour entamer les procédures judiciaires pour remédier aux injustices, allant alors souvent jusque devant la Cour suprême des États-Unis dont les cas Baker v. Carr, Heart of Atlanta Motel v. États-Unis et Caroline du Sud contre Katzenbach. Il poursuivit ce rôle un temps sous la présidence Lyndon Johnson puis 1965, retourna enseigner à la faculté de droit.
