Jakob Vilhelm var sønn av Edvard Omsen Heiberg (1829–84) som var stiftsoverrettsassessor, og Vilhelmine Augusta Rode. Jakob hadde tre kjente brødre: Teatersjef og forfatter Gunnar Heiberg (1857–1929), lege Inge Heiberg (1861–1920) og teatersjef Anton Heiberg (1878–1947).
J. V. Heiberg (1900). L'instruction publique de la Norvege à la fin du XIX siécle. Kristiania. [Utgitt i anledning Verdensutstillingen i Paris 1900]
Karl Fischer, J. V. Heiberg og Haakon Nyhuus (1901). Folkebogsamlinger i Norge. Deres Historie, nuværende Tilstand samt Forslag til en nyordning. J.Chr. Gundersens Bogtrykkeri. [Innstilling til Kirkedepartementet]
J. V. Heiberg (1906). Unionens Opløsning 1905: En Samling af de officielle norske Aktstykker vedrørende Unionskrisen og Norges Genrejsning som helt suveræn Stat. Stenersens Forlag.