De Gheyn se casó en 1595 con Eva Stalpaert van der Wiele de Malinas, con la que tuvo un hijo, Jacob de Gheyn III (hacia 1596-1641) que también fue grabador, especializado en temas mitológicos.
Se trasladó a Leiden en 1596 y permaneció en ella hasta 1602; allí realizó el Sitio de Geertruidenberg para las autoridades locales; comenzó con la pintura y experimentó con aguafuertes. En esta ciudad tuvo contacto con Hugo de Groot (1583-1645) y otras personalidades en la Universidad de Leiden.
Hacia 1605 se asentó en La Haya, donde trabajó para la corte de los Orange, y diseñó la gruta (la primera en los Países Bajos) y otras ornamentaciones del Buitenhof, el jardín del príncipe Mauricio de Nassau (1567-1625). Tras la muerte de este, de Gheyn trabajó para su hermano, el príncipe Federico Enrique (1584-1647).
Junto con Goltzius, de Gheyn creó algunos de los primeros desnudos femeninos del arte holandés; también pintó algunas de las primeras vanitas y bodegones florales de los Países Bajos.
De Gheyn firmó también un retrato de Felipe de Marnix de Saint Aldegonde (1540-1598), probablemente entre febrero y diciembre de 1598. Este retrato se convirtió en un grabado y probablemente sirvió de modelo para todos sus retratos.
En 1606 los Estados Generales le encargaron un bodegón de flores para María de Médicis (1575-1642) por el que recibió la cantidad de seiscientos florines. Actualmente dicha pintura está perdida.
Ya en Ámsterdam, realizó los dibujos para los grabados de las 117 ilustraciones de un manual de entrenamiento militar para ayudar a la lucha por la independencia holandesa de España.
Sus dibujos y grabados son mucho más importantes que sus pinturas, por su espontaneidad e informalidad son extraordinarios documentos del periodo de la transición del manierismo al naturalismo del arte holandés.