Kihlman syntyi vaasalaiseen pappisperheeseen ja lähti isänsä Anders Gustaf Kihlmanin esimerkin mukaan 1843 opiskelemaan teologiaa. Valmistuttuaan papiksi 1846 Kihlman palasi PohjanmaalleKruunupyyhyn isänsä apupapiksi. Kihlman oli jo lukioaikanaan Turussa liittynyt mukaan herännäisyyteen.
Kihlmanin puoliso Angelika (o.s. Fabritius) kuoli 1851, ja samaan aikaan pohjalainen herännäisyysliike alkoi osoittaa hajoamisen merkkejä. Kihlman lähti osin terveydellisistä syistä SaksaanTübingeniin, missä hän tutustui Johann Tobias Beckin teologisiin kirjoituksiin. Palattuaan Suomeen syksyllä 1852 Kihlman jätti papin viran ja toimi saksan kielen opettajana ensin Pietarsaaressa 1855–1863 ja sitten Vaasassa 1863–1866. Hän meni toisen kerran naimisiin 1858 turkulaisen hovioikeudenneuvoksen Karl Henrik Forssellin tyttären Hildan kanssa.
Kihlman alkoi sijoittaa 1850-luvulta alkaen ensimmäiseltä vaimoltaan perimiensä itäsuomalaisten Utran ja Puhoksen sahojen myynnistä saatuja rahoja erilaisiin liikeyrityksiin. Kihlman sijoitti rahaa Vaasan Puuvillatehtaan, Tampereen Pellava- ja Rauta-Teollisuus Osake-Yhtiön (myöhemmin Oy Tampella Ab) ja Suomen Yhdyspankin osakkeisiin. Kihlman oli myös mukana näiden yritysten johtoelimissä; hän oli jäsenenä puuvillatehtaan ja pellavatehtaan johtokunnissa sekä Suomen Yhdyspankin pankkivaliokunnassa.
Erityisesti Tampereen Pellava- ja Rauta-Teollisuus Osake-Yhtiö aiheutti Kihlmanille paljon huolta. Hän oli 1864 mennyt yhdeksi täytetakaajaksi yhtiön perustajan, Gustaf August Wasastjernan, Yhdyspankilta ottamalle 150 000 markan suuruiselle lainalle. Lainan vakuutena oli sata kappaletta pellavatehtaan osakkeita, ja jos niiden kurssi olisi lähtenyt jyrkkään laskuun, täytetakaajat olisivat voineet joutua vastaamaan Wasastjernan veloista omilla varoillaan tämän joutuessa vararikkoon. Wasastjerna jätti konkurssihakemuksen lopulta 1869, mutta 1870-luvun alkuvuosina pellavatehtaan taloudellinen tilanne ja osakkeen kurssi alkoivat selvästi kohentua, joten täytetakaajien tappiot jäivät lopulta pieniksi.
Viimeksi Kihlman oli mukana perustamassa Kansallis-Osake-Pankkia vuonna 1889 ja toimi sen hallintoneuvoston puheenjohtajana 1893–1902.