По рекомендации Августа II в 1707 году принят на службу Петром I в чине генерал-фельдмаршал-лейтенанта со старшинством над всеми русскими генералами, подчинялся только главнокомандующему генерал-фельдмаршалу Б. П. Шереметеву. Участвовал в сражении при Головчине, где командовал левым флангом русской армии. В декабре 1708 года направлен во главе отдельного корпуса в Польшу для действий против сторонников Станислава Лещинского. 13 мая 1709 года нанёс поражение отряду Яна Казимира Сапегипри Лидухове на Украине, далее имел ещё несколько дел против поляков — сторонников Станислава Лещинского.
В 1710 году Пётр I вверил русские войска в Польше генерал-фельдмаршалу А. Д. Меншикову. Российские энциклопедии сообщают, что обиженный тем, что оказался в подчинении у русского главнокомандующего, фон дер Гольц ослушался Меншикова и был предан суду Военного трибунала. Приговорён к смертной казни; Пётр I заменил смертный приговор высылкой за границу в 1711 году[2]. Современный историк Б. В. Мегорский пишет, что трибунал над Г. фон дер Гольцем начался на Котлине 15 (26) сентября 1710, Гольц был оправдан и в 1711 убыл из России[3].
О дальнейшей судьбе Гольца мало что известно. Вероятно, он скончался в Польше.
