Símun fødtes i bygden Skarð på Kunoy, som er nu forladt. Hans forældre var Elsa, født Matras fra Viðareiði og Johannes Johannessen fra Skarð. Navnet av Skarði betyder fra Skarð.
På lærerseminariet i Tórshavn mødte han Sanna Jacobsen fra Tórshavn, de fik begge lærereksamen i 1896 og blev forlovet. Allerede på dette tidspunkt havde Símun besluttet at han ikke skulle arbejde i folkeskolen – de skulle sammen stifte en folkehøjskole og få fat i den færøske ungdom. Símun av Skarði opsøgte samme år Askov Højskole.
Her traf han for første gang Rasmus Rasmussen, og indviede ham i sine planer om at oprette en højskole på Færøerne. De enedes om at arbejde sammen, og gik i gang med at uddanne sig til hvervet. To vintre og to somre var de elever på Askov højskole, siden tog de et år på Statens Lærerhøjskole i København. Símun læste især historie og sprog.
Føroya Fólkaháskúli startede vinteren 1899 i foreløbige lokaler i Klaksvík, stillet til rådighed af en købmand. Det var den første skole på Færøerne, hvor undervises færøsk og har stadig stor betydning for den færøske kultur. Símun av Skarði var indtil sin død lederen af folkehøjskolen, som flyttede i 1909 til Tórshavn. Gaden Símunargøta i hovedstaden bærer hans navn. I modsætning til andre gadenavne efter berømte færinger, blev han vurderet med fornavnet. Det samme gælder for vennen Rasmus Rasmussen og parallelgaden Rasmusargøta.
Símun af Skarði var også politiker. Han sad i Lagtinget fra 1906 til 1914 for Sjálvstýrisflokkurin. Den 1. februar 1906 skrev han digtet Mítt alfagra land (mit meget fagre land), som blev senere Færøernes nationalsang.