Han eide gårdene Vivelstad (Viulstad) og Søndre Sandager i Lier, og drev der bl.a. en betydelig mølledrift. Hovedbygningen på gården i Vivelstaddalen ble bygd av Caspar i årene fra 1802 og utover. Han ga i 1807 hovedbygningen på Nordre Vivelstad til skolehus og finansierte opprettelsen av skolen. Caspar skjenket Universitetet 5000 riksdaler ved opprettelsen.
Caspar von Cappelen var den 25. februar 1814 med i Frogner kirke (Lier) og underskrev fullmakt fra Lier prestegjeld for representantene til riksforsamlingen på Eidsvoll. I underskriften brukte han navneformen Casper von Cappelen (gjengitt i de trykte adresser og fullmakter side 131).
Caspar von Cappelen ble den 8. september 1785 gift med Johanne Antoinette Dorph (1768–1857), som var datter av fogd i Ringerike og Hallingdal Christian Dorph og Antoinette Johanne Sverdrup og barnebarn av Antoinette Ancher.
Han var far til konsul Michael von Cappelen (død 1829), gift med tremenningen Petronelle von Cappelen (død 1855), Mæla gård ved Skien, til Karen von Cappelen (død 1863), gift med Elias Smith, til prokurator Christian Dorph von Cappelen (død 1875), gift med Alvilde Mathilde Dahl, og til Eleonore Bernhardine von Cappelen (død 1877), gift med Benjamin Wilken Heiberg.
Fra Caspar von Cappelen stammer også arkitekt Herman Krag, skipsreder og hvalfanger Viktor Esbensen og godseier og hoffjegermester, greve Christian Ulrik Benedicht Ahlefeldt-Laurvig til Tranekær.
Johanne Antoinette von Cappelen f. Dorph
Silhuett av familien Cappelen, med Caspar von Cappelen som nr. 4 fra venstre
Litteratur
Erik Andreas Thomle: Familien (von) Cappelen i Norge og Danmark, Christiania 1896
Riksforsamlingens forhandlinger. 2: Adresser og fuldmagter, Kristiania 1914
Rolf Fladby: Liers historie. Gårdshistorien, 1963 [1] med gårdsnavnet Viulstad på Vivelstad
Jo Sellæg: Drammen – blott til lyst, Drammen 2014, side 296-303
Madeleine von Essen m. fl.: Fangen på Bogstad, Messel Forlag, Oslo 2014, 222 s., ISBN 978-82-7631-120-4, med kort omtale av Caspar von Cappelen og med Gustav Lewenhaupts tegning av Vivelstad gård i Caspars tid