När kristendomen kom till Öland i mitten av 1000-talet uppfördes troligen en kyrka i Gräsgård. Det var antagligen en liten så kallad stavkyrka. Stavkyrkan ersattes på 1100-talet av en kyrkobyggnad i sten. Medeltidskyrkans historia skildras i ord och bild på en tavla i den nuvarande kyrkan. Johannes Haquini Rhezelius har tecknat en bild av kyrkan. Enligt teckningen bestod kyrkan av ett torn i väster och ett långhus med en rakslutande korvägg i öster och ingång i söder. Kyrkan var i bruk till 1823 då den nuvarande kyrkan byggdes.
Kyrkobyggnaden
Den nuvarande kyrkan består av ett rektangulärt kyrkorum med kor och utbyggd sakristia i öster, torn i väster och vapenhus i söder. Stilmässigt tillhör kyrkan exteriört och interiört en historicerande blandstil. Äldsta delarna av kyrkan är från cirka 1100-talet.
Av den medeltida kyrkan kvarstår västtornet; även i östmuren återfinns medeltida murar. 1823 fogades salkyrkan till tornet. 1884–1886 tillkom vapenhuset, tornets övre del förhöjdes och försågs med lisener och rundbågefriser, och den nuvarande tornöverbyggnaden tillkom; den ersatte en 1700-talslanternin. Exteriört präglas kyrkan helt av den stilmodernisering som då genomfördes. De vitputsade, sadeltäckta byggnadskropparna genombryts av rundbågiga fönsteröppningar; ingångar i väster och i vapenhuset leder in i kyrkorummet.
Även kyrkans inre vittnar om renoveringen vid slutet av 1800-talet, om än något av det enhetliga i renoveringen har gått förlorad i och med senare förändringar. Tunnvalvet har gördelbågar; läktare, orgelfasad, predikstol, altaruppsats och andra inventarier har nygotisk prägel. Läktarunderbyggnad installerades 1980.