Skolen åpnet 24. august 1897, og overtok da elevene fra Kirkebakken skole og Holtan/Baggerød skole.[1] Granly skole ble til å begynne med kalt Tveiten skole.[2] I 1950 ble skolen modernisert. Den fikk nybygg i 1954 og ny fløy i 1997.
Skolebygget fra 1952 og 1997 ble revet høsten 2015 og det ble bygget en helt ny skole på samme sted. Den nye skolen sto ferdig høsten 2017.[3] I byggeperioden gikk elevene på Karljohansvern skole.