Taft schloss sein Studium an der Yale University, an der er auch Tutor war, erfolgreich im Jahre 1833 ab. 1832 gründete er mit seinem Studienfreund William Huntington Russell die heute noch existierende StudentenverbindungSkull & Bones an dieser Universität. Anschließend studierte er Recht an der Yale Law School, wurde 1838 als Anwalt in Connecticut zugelassen und zog 1839 nach Cincinnati, wo er Mitglied des Stadtrates war und zu einem der einflussreichsten Bürger von Ohio wurde. Er war ein Mitglied der Treuhandgesellschaften der University of Cincinnati und des Yale College.
1856 unternahm er einen missglückten Versuch, ins Repräsentantenhaus der Vereinigten Staaten gewählt zu werden. Von 1866 bis 1872 war er Richter am Obersten Gericht von Cincinnati. Im März 1876 wurde er von US-Präsident Grant als Kriegsminister in dessen Kabinett berufen, drei Monate später wurde er Attorney General der Vereinigten Staaten.
Nachdem er sein Amt als Justizminister im Jahre 1877 niedergelegt hatte, widmete er sich wieder der praktischen Rechtsprechung. Seine Kandidaturen als Gouverneur von Ohio in den Jahren 1875 und 1879 verliefen erfolglos. Taft wurde 1882 als Nachfolger von William Walter PhelpsBotschafter in Österreich-Ungarn, von 1884 bis 1885 übte er diese Tätigkeit im Russischen Kaiserreich aus, wo er auf William H. Hunt folgte.