Hedmanin vanhemmat olivat nahkuri Gustaf Adolf Hedman ja Natalia Ignatjeff. Hän kirjoitti ylioppilaaksi 1884 Vasa Svenska Lyceumista ja opiskeli sen jälkeen Helsingin yliopistossa, josta valmistui filosofian kandidaatiksi 1888, filosofian maisteriksi 1890, lääketieteen kandidaatiksi 1891 ja lääketieteen lisensiaatiksi 1895. Hän toimi Vaasan kaupunginlääkärinä vuodet 1910–1929. Professorin arvonimi Hedmanille myönnettiin 1924.[1]
Vuodesta 1892 lähtien Hedman keräsi erilaista historiallista esineistöä ja taidetta käsittäneen kokoelman, joka hänen kuolemansa jälkeen lahjoitettiin Pohjanmaan museolle Vaasaan. Hedman toimi myös museon johtokunnassa vuodesta 1899 aina kuolemaansa saakka.[2] Hän oli suuresti vaikuttamassa vuonna 1930 valmistuneen uuden museorakennuksen syntyyn ja se nimettiinkin Hedmanin mukaan. Taidetta hän osti Ruotsiin ja Keski-Eurooppaan tekemiltään matkoilta sekä eri taidekauppiailta, joista merkittävin oli Gösta Stenman. 1920-luvun alussa Hedman hankki laajan kokoelman Venäjän tsaariperheelle kuulunutta hopeaesineistöä, jota Pietarista välitti antiikkikauppias Walter Sjöberg.[3]
Karl Hedmanin puoliso oli Elin Hasselblatt, jonka kanssa hän avioitui vuonna 1897.[1] Lapsettomaksi jäänyt pariskunta perusti vuonna 1931 säätiön hallinnoimaan kokoelmiaan.[4]