Lahir di Chandler, Texas, Yarborough berpraktek hukum di El Paso setelah lulus dari Sekolah Hukum Universitas Texas. Ia menjadi asisten Jaksa Agung Texas James Burr V Allred pada tahun 1931 dan berspesialisasi dalam menuntut perusahaan minyak besar. Allred kemudian terpilih sebagai Gubernur Texas dan mengangkat Yarborough menjadi hakim di County Travis. Setelah bertugas di Angkatan Darat Amerika Serikat selama Perang Dunia II, Yarborough berulang kali mencalonkan diri sebagai gubernur, menentang faksi konservatif Demokrat yang dipimpin oleh Allan Shivers. Price Daniel mengundurkan diri dari Senat setelah memenangkan pemilihan gubernur tahun 1956, dan Yarborough memenangkan pemilihan sela untuk menjalani sisa masa jabatan Daniel. Ia memenangkan pemilihan untuk masa jabatan penuh pada tahun 1958 dan terpilih kembali pada tahun 1964, mengalahkan Ketua Partai Republik County Harris George H. W. Bush dalam pemilihan yang terakhir.
Pada 1970, Yarborough kalah dalam pencalonan kembali dari sesama kader Demokrat Lloyd Bentsen, yang berkampanye sebagai calon yang relatif lebih konservatif. Yarborough berusaha memenangkan pemilihan pendahuluan Partai Demokrat tahun 1972 untuk kursi Senat Texas lainnya, tetapi kalah dalam pemilihan pendahuluan dari Barefoot Sanders. Yarborough tidak mencalonkan diri dalam pemilihan umum apa pun setelah tahun 1972.
