Keefe je profesionalni debi imao godine 1880. u klubu Troy Trojans. Odmah se etablirao kao vrhunski pitcher, a u 105 izmjena je postigao prosjek 0.86 ERA, odnonso rekord koji do danas nije oboren. Keefe nacionalna zvijezda postaje 1883. igrajući za New York Metropolitans s odnosom pobjeda i poraza 41-27 u 619 bacanih izmjena s projeskom ERA 2.41 i 361 strikeouta. Godine 1885. Keefe je prešao u New York Giants, kod kojih je imao svoju veličanstvenu sezonu 1888, s donosom pobjeda i poraza 35-12 record, 1.74 ERA i 335 strikeouta (v. trostruka kruna).
Ukupno je u karijeri imao 342 pobjede (8. u historiji u bejzbol), prosjek ERA 2.62 i 2562 strikeouta, rekord u trenutku njegovog umirovljenja. Bio je također prvi pitcher s više od 300 strikeouta u sezoni.