James studerade juridik och inledde 1891 sin karriär som advokat. Han blev invald i representanthuset i kongressvalet 1902. Han omvaldes fyra gånger. Han efterträdde sedan 1913 Thomas H. Paynter som senator för Kentucky. Senator James avled 1918 i ämbetet och efterträddes av George B. Martin.