Guldberg vaks opp i Christiania og på Nannestad, som dotter av bokhandlaren og den seinare sokneprestenCarl August Guldberg. Som eldste dotter tok ho frå 15-årsalderen ansvar i heimen då mora døydde. 24 år gammal flytta ho heimefrå, og i 1866 reiste ho til diakonisseanstalten Kaiserswerth i Tyskland, den same staden der Florence Nightingale tidlegare hadde vore elev. I utdanningstida gjorde ho teneste ved feltlasarett i Dresden og Berlin under den austerriksk-prøyssiske krigen, og ved feltsjukehus i Alexandria. Mens ho enno var i Tyskland, blei ho beden om å tiltre som forstandarinne og grunnleggjar av ei diakonisseutdanning i Noreg.
Sjukepleieinnsats i Noreg
Norsk sjukepleiarutdanning byrja 20. november 1868 med Guldberg og ein elev. Diakonisseanstalten heldt fyrst til i lokale i kommunegarden på Grønland i Oslo, seinare i Ullevålsveien, og frå 1887 på eigen eigedom på Lovisenberg, der verksemda framleis ligg.
Diakonisseanstalten, seinare Diakonissehuset, var i 22 år den einaste sjukepleiarutdanninga i landet. Guldberg leia verksemda i 51 år, og var framleis aktiv som forstandarinne då ho døydde 79 år gammal. Verksemda hennar hadde tyding som utvikling av ein helseprofesjon, som ein kyrkjeleg teneste, og som ei sjølvbevisst profesjonsutdanning for kvinner.
