Dél-Magyarországon, a mai Vajdaság harmadik legnagyobb városában, Nagybecskereken (ma: Zrenjanin, Szerbia) Kohn családnéven látta meg a napvilágot mint egy zsidó család gyermeke, aki Kemény néven lett a magyarság és az emberiség nemzetközi viszonylatban is kiemelkedő hőse. Magyarországi és németországi középiskolai tanévei után a Budapesti Tudományegyetemen folytatta tanulmányait, ahol 1883-ban matematika–fizika szakos, 1888-ban német–francia nyelv és irodalom szakos tanári diplomát szerzett. Közben, 1884–1885-ben Párizsban a Collège de France-on és a Sorbonne egyetemen képezte tovább magát, illetve nyugat-európai tanulmányutat tett.
1885–1887 között a kőszegi cs. és kir. katonai alreáliskola tanára, majd Brassóban helyettes és rendes tanár a reáliskolában. 1891–1894 között az egri állami reáliskola (a mai Dobó István Gimnázium) igazgatója. 1894 és 1920 között a budapesti VI. kerületi állami főreáliskola tanára, később címzetes tankerületi főigazgató.
1903-ban a Magyar Paedagogiai Társaság rendes tagja, 1935-ben a tiszteleti tagja lett. Rendszeresen részt vett a Társaság rendezvényein és publikált a Magyar Paedagogia folyóiratba. Kutató és nevelő tevékenysége a békemozgalom iskolai lehetőségeire, az idegen nyelvek tanítására és a testnevelés általános kérdéseinek vizsgálatára, valamint a pedagógia egészének kérdéskörére kiterjedt. Jelentős szerepet vállalt a külföldi oktatás-nevelésügy eredményeinek hazai megismertetésében, népszerűsítésében. Szerkesztője volt az Ungarische Pädagogische Revue-nek (1901–1906), s ugyancsak szerkesztette az 1934-ben, majd az 1936-ban megjelent Pedagógiai lexikon két kötetét. A pedagógiai szaklapok mellett rangos társadalomtudományi tanulmányai az Athenaeumban is megjelentek.
1920-ban nyugdíjba vonulva humanista munkássága még intenzívebbé vált. Születésének 75. évfordulója egybeesett Alma Matere fennállásának 300 éves jubileumával.
Élete drámai módon végződött. A nyilas hatalomátvétel után gettóba akarták zárni, és a 84 éves tudós professzor a fokozódó embertelenségek elől feleségével együtt 1944 novemberében valószínű, hogy a halálba menekült.
A halhatatlanságba az olimpiai mozgalmon át
Athénban1896. április 10-én. Balról, állnak: Gebhardt, Guth-Jarkovský, Kemény és Balck, ülnek: Coubertin, Vikélasz, Butovszkij
International Olympic Committee Nemzetközi Olimpiai Bizottság
Kemény Ferenc az 1880-as években, párizsi évei alatt került kapcsolatba, majd szoros barátságba Pierre de Coubertin báróval. Nézeteik megegyeztek az olimpiai gondolat felelevenítésének szükségességéről és a nevelés eszközeként való felhasználásáról. Amikor Coubertin Párizsban a Sorbonne-on 1894. június 16. és 23. között tartott alapító nemzetközi kongresszuson zászlót bontva meghirdette az ókori olimpiai játékok felújítását, és a zárónapon életre hívta a Nemzetközi Olimpiai Bizottságot, természetes volt, hogy a távolmaradásra kényszerült magyar barátját, harcostársát is bevette az alapító atyák közé, így Kemény Ferenc személyén keresztül a magyar sport az ötkarikás mozgalom alapítóinak egyike.
A Nemzetközi Olimpiai Bizottság alapító tagjainak nevét az első újkori olimpia színhelyén, az athéni stadionban őrzik márványba vésve. Ennek a híres sportpályának főbejárata előtt, egy kis olajfaligetben mondott franciául beszédet Kemény Ferenc a külföldi delegáció nevében az első újkori olimpiai játékok megnyitóján a felújítást finanszírozó görög Jeórjiosz Avérof szobrának leleplezésekor.
Kemény Ferencet azonban fokozatosan háttérbe szorították. Olyannyira, hogy az 1896-os első újkori olimpia megtartásának 10. évfordulóján, 1906-ban Athénban rendezett jubileumi versenyek körüli viták nyomán lemondásra is késztették; 1907. április 4-én kelt levelével NOB- és MOB-tagságáról egyaránt lemondott, az 1908-ban tartott újjáalakuló közgyűlésre már meg sem hívták.
Az alkotóereje teljében lévő ember a további évtizedekben nem kapott teret az olimpiai mozgalomban való tevékenységre, s élete tragikus véget ért. Halálát követően évtizedeken át mély hallgatás övezte életútját. Csak a hetvenes évek végén lehetett ismét hallani róla, amikor előbb az egri sportcsarnok vette fel a nevét, majd a Testnevelési Főiskola szoborparkjában felállították emlékművét. Napjainkban már iskola őrzi nevét Egerben, szobrok, emléktáblák és róla elnevezett díj öleli körül emlékét, de életművének, kimagasló eredményeinek legszélesebb körben közkinccsé tétele, jelentőségéhez méltó hazai és nemzetközi kultuszának kibontakoztatása, igazságának kivívása még nem történt meg.
1995-ben a Magyar Olimpiai Bizottság megalapításának centenáriumát a Magyar Posta három bélyegből álló sorozattal köszöntötte. A nyitóértéket Kemény Ferenc arcképe díszíti „a MOB alapítója” megnevezéssel. A záróértéken vívók láthatók.
Művei
Die Mittelschulen Ungarns (Pozsony, 1896)
A béke-probléma megoldásának egyik módja I–V. Athenaeum, 1899, 1900. Kötetben
1995-ben a Magyar Posta háromértékes bélyegsorozatot adott ki „100 éves a MOB” címmel, melynek első, 22 Ft névértékű darabja: „Kemény Ferenc (1860–1944) a MOB alapítója” (tervezője: Svindt Ferenc).
Egerben, a Kossuth Lajos u. 9. sz. alatti Megyeháza belső udvarán, a Sportmúzeum bejárata előtt 1997-ben állították fel mellszobrát, Sebestyén Sándor alkotását.
Szülőhelyén, Nagybecskereken, a városi Karadorde-parkban mellszobra áll.
Gyulai Ágost: Kemény Ferenc (1860–1944) Magyar Paedagogia, 53–55. évf. (1944–1946) 51–52.
Kozák Péter: Kemény Ferenc és a magyar olimpiai mozgalom kezdetei. 1894–1907. In: Olimpiatörténeti tanulmányok. (Szerk.: Som Ferenc, Szakály Sándor) Eötvös Kollégium, Bp., 1989. 67–94. old.
Ki kicsoda a magyar sportéletben? I–III. Írta és szerkesztette Kozák Péter. Babits Kiadó, Szekszárd, 1994–1995.
Mező Ferenc: Az újkori olimpia Athéntől Melbourne-ig (1896–1956). Sport Lap- és Könyvkiadó, Bp., 1956.
Pedagógiai lexikon II. rész. Szerk.: Fináczy Ernő, Kornis Gyula és Kemény Ferenc. Révai Irodalmi Intézet kiadása, Budapest, 1936, 35. l.
Pedagógiai lexikon II. kötet. Főszerk.: Báthory Zoltán, Falus Iván. Keraban Könyvkiadó, Budapest, 1997, 190–191. l.