Från 1693 utbildades han i Holland och Frankrike till sjöofficer. 1696 återvände Gyldenløve till Danmark där han som 18-åring utnämndes till amiral. Från 1701 förde han som president i amiralitetetbefälet över hela den danska örloggsflottan. 1711 blev han generalamiral.
Gyldenløve stred mot Sverige 1700 och från 1709 i Stora nordiska kriget. Han förde bland annat befälet över de danska sjöstridskrafterna i slaget vid Köge bukt 1710 och vid Rügen 1712 och var ett pålitligt stöd för Tordenskjold.
Han räknas som initiativtagare till sjöofficersutbildningen Søe Cadet Compagnie, en skola enligt holländsk förebild, som inrättades 1701. Gyldenløve är begravd i kapellet på godset Brattingsborg på Samsø.