På vinden finns rester av romanska kalkmålningar, vilka kom till innan kyrkan välvdes. De nu synliga romanska kalkmålningarna i absiden kom till under 1200-talet medan barockmålningarna i kor och långhus är från 1600-talet.
Under 1160-talet ersattes stavkyrkan av en absidkyrka i romansk stil, byggd av Ombergskalksten. Den hade kvadratiskt långhus med små högt sittande fönster, varav ett ännu är kvar på kyrkans norra sida, ett lägre och smalare kor och halvrund absid. Takstolarna var ursprungligen synliga nedifrån men doldes ganska snart av ett plant innertak. Väggarna var rikt dekorerade. Om torn fanns är osäkert. Troligen är kyrkan byggd av socknensstorman. Under 1200-talet tillkom romanskakalkmålningar i absiden, och i slutet av 1300-talet slogs valv i kyrkan, troligen med hjälp av mästarna från bygget av Vadstena klosterkyrka.
Ett vapenhus byggdes 1641 framför ingången på södra sidan, år 1660 skaffades en ny dopfunt av vanlig östgötatyp och år 1661 gjordes en del reparationer av snickare Måns i Heleko. En altaruppsats skaffades 1681 av "konstrike mäster Johan i Grenna", det vill säga Johan Werner d.y. Den kostade 200 daler, men endast några fragment är bevarade. Av Johan Werner skaffades åtta år senare också en predikstol. Den hade bilder av Kristus, Johannes, Petrus och Andreas. Från 1600-talet härstammar också dekorationsmålningar i skeppet och i koret.
En byggnadsbeskrivning från 1700-talet
Carl Fredric Broocman berättar i mitten av 1700-talet: "Kyrkan står på Krono grund, en och 3 ottondedels mil ifrån Wadstena, och 3 ottondedels mil ifrån Moder-Kyrkon (Rogslösa kyrka), vid Sjön Tåkerns Wästra strand, SödOst om Åmberg; och är upmurad af Gråsten samt beprydd med ett nätt af bjälkar byggdt och med bräder betäckt Torn. Med Choret håller hon i längden 34 alnar, och uti bredden 8 och 3 fjerdedels aln. När hon aldraförst blifwit anlagd, therom äges ingen kunnskap; men att hon är tillbyggd uti Kyrkoherdans Plananders tid, wid paß år 1717, therom weta Folk berätta.
Vapnhuset upmurades år 1755. Kyrkan är ganska ljus och beprydd med en Altartafla, som föreställer Christi korßfästelse, och med en af Snickare-Arbete år 1689 upsatt Prädikstol, med Frälsarens, S:t Johannis, Petri och Andree bilder. En gammal Kalk är här, med påskrift, uti Latinska bokstäfwer, så lydande: Sæll ær then menniska wist, Som tror på Jesum Christ, år 1564. Uti åfwannämnde Torn hänga Klockorna, och står på then större följande: In honorem Dei, et emolumentum ecelesiæ in Væfversunda, hæc campana Junecopiæ emta Anno 1704, sub augustissimo Rege Sveciæ, CAROLO XII. [...] Then mindre har alsingen påskrift.
Af gamla Minnes-märken ses uppå Kyrko-dören ett litet aflångt Jern med Munska bokstäfwer inhuggne, så lydande:
ASMUNTAR. FEDI. TAUR. DASAR.
Thet är: Asmund gjorde thenna Byggnad."
Kyrkan förlängdes mot väster år 1771 och över tillbyggnaden uppförde byggmästare Bengt Björkman ett trätorn för 150 riksdaler. Under följande året höggs fönstren upp och i tillbyggnaden uppfördes en läktare. Bänkkvarteren fick dörrar med vackra målningar. Kort därefter flyttades klockorna i stapeln till det nya tornet. År 1784 byggde organisten Lars Strömblad, Ödeshög, den första kända piporgeln och 1794 monterades en altardisk.
Under 1800-talet ville man i den protestantiska renlärighetens namn få bort all gammal vidskepelse ur kyrkan. Hela kyrkan vitmenades, så att alla kalkmålningar försvann. Dessutom målades kyrkbänkarna vita. Detta ägde rum i två omgångar, dels 1820 och dels åren 1859–1860. Även en del reparationer gjordes och så skaffade man en ny predikstol.
År 1947 gjordes en omfattande restaurering under ledning av arkitektErik Fant. Bland annat har kyrkans gamla gravstenar flyttats tillbaka in i kyrkan och bänkkvarteren har fått nya trägolv med luckor, så att man kan studera det gamla stengolvet därunder. Orgelläktaren har tagits bort och piporgeln ställts upp på ett podium. Kyrkbänkarna har gjorts om, varvid man har behållit de gamla dörrarna. Både altare och predikstol är nya; det äldre altaret har placerats i sakristian. Altartavlan har renoverats. Kalkmålningarna har tagits fram, liksom bänkdörrarnas gamla målning. Kyrkan har fått elektrisk belysning och uppvärmning. Utvändigt har taken på vapenhus och sakristia spånbelagts, samtliga tak tjärats och hela kyrkan målats.
Under restaureringen återfanns kyrkans ursprungliga dopfunt. Den hade använts som stöd under predikstolen. Funten tycks vara tillverkad av samme stenmästare som gjort utsmyckningen på tornet till Heda kyrka. Dopfunten har restaurerats och fått en ny kuppa ritad av Erik Fant.
Triumfkrucifix framför koret. Krucifixet föreställer Kristus som konungen, världshärskaren, levande och med krona och konungslig klädsel. Krucifixet är en kopia av ett original, från 1100-talets andra hälft, som finns på Statens historiska museum.
Elias Brenner: Teckningar av kyrkor i Östergötland (1669-1673), återutgivna av Gunnar Rörby, Skänninge 1982
Carl Fredric Broocman: Beskrifning Öfwer the i Öster-Götland Befintelige Städer, Slott, Sokne-Kyrkor .... Tryckt i Norrköping hos Johan Edman år 1760 / G. Ekströms förlag 1993.
Erik Lundberg: Östergötlands romanska landskyrkor, Meddelanden från Östergötlands Fornminnes- och Museiförening 1927-1928, Billstens boktryckeri, Linköping 1927
Sveriges bebyggelse – Statistisk-topografisk beskrivning över Sveriges städer och landsbygd - Landsbygden del V, sid. 408, 1948
Anonymus: Beskrivning av Rogslösa kyrka, Affärstryck, Vadstena, 1969