Kisgyőr már a bronzkor óta lakott, a leleteket a Herman Ottó Múzeum őrzi Miskolcon. A település neve a gyűrű alakú földvárak nevéből ered, melyekből több is állt a környéken. Ezek közül legismertebbek a Halomvár és Leányvár, Hársas-vár, Majorvár, Kecskevár, Latorvár. Kisgyőr neve is a gyűrű alakú földvárak nevéből származik, a „kis” előtagot valószínűleg azért kapta, hogy megkülönböztessék Diósgyőrtől.
Az Árpád-korban a Bors nemzetség birtoka volt. A muhi csatát követően IV. Béla magyar király Kisgyőrön keresztül menekült Bükkszentkereszt irányába, és a település mellett megpihent kíséretével. Ez a dűlő a király széke nevet viseli napjainkban is. A muhi csatát követően Kisgyőr mellett, a kék-mezőn volt a következő ütközet, ahol súlyos vereséget szenvedett magyar sereg kék ruhába öltözött katonáinak holttestétől kéknek látszott a mező. A menekülés közben utolért és lemészárolt katonák utolsó csatahelyeként, a mészárszék oldalt jelölik korabeli feljegyzések. A tatárjárás után Ernye bán kapta. IV. Béla Diósgyőrben kővárat építtetett a földvár helyére. Ernye bán leszármazottai elvesztették a birtokot, amikor szembeszálltak Károly Róberttel. Innentől a magyar királynék jegyajándéka volt.
A törökök Eger ostromakor kifosztották és felgyújtották a települést. A török időkben tért át a falu lakossága a református hitre, de temploma csak 1776-ban épült.
1848-ban eltörölték a jobbágyságot az országban, Kisgyőr még évtizedeken át pereskedett földesurával, a magyar koronával a földek miatt.
2001-ben a település lakosságának 92%-a magyar, 8%-a cigány nemzetiségűnek vallotta magát.[12]
A 2011-es népszámlálás során a lakosok 88,1%-a magyarnak, 5,9% cigánynak, 0,3% németnek mondta magát (11,9% nem nyilatkozott; a kettős identitások miatt a végösszeg nagyobb lehet 100%-nál). A vallási megoszlás a következő volt: római katolikus 17,4%, református 52,3%, görögkatolikus 1,3%, felekezeten kívüli 7,2% (18,1% nem válaszolt).[13]
2022-ben a lakosság 91,3%-a vallotta magát magyarnak, 5,4% cigánynak, 0,4% ukránnak, 0,3% németnek, 0,1% ruszinnak, 0,1% románnak, 1,8% egyéb, nem hazai nemzetiségűnek (8,1% nem nyilatkozott; a kettős identitások miatt a végösszeg nagyobb lehet 100%-nál). Vallásuk szerint 12,7% volt római katolikus, 39,4% református, 1,5% görög katolikus, 2,1% egyéb keresztény, 0,5% evangélikus, 0,3% ortodox, 6% felekezeten kívüli (37,2% nem válaszolt).[14]