Carl Ludwig Koch urodził się 21 września 1778 roku w Kusel[1]. Za namowa wuja, nadleśniczego w Kaiserslautern, Koch został leśniczym i od 1797 roku pracował w Mölschbach[1].
Pod wpływem brata Wilhelma Daniela Josepha (1771–1849) (późniejszego botanika), który wówczas pracował w Kaiserslautern jako lekarz, Koch podjął studia zoologiczne[2] i poświęcił się badaniom lokalnej fauny[1]. W 1803 roku ukazały się drukiem jego pierwsze prace z zakresu entomologii[1].
W 1805 roku został leśniczym (niem. Revierförster) w Ursbergu a od 1807 roku był nadleśniczym w Bregencji[1]. Będąc w Bregencji zainteresował się ornitologią i zaczął pracować nad pracą System der baierischen Zoologie, której pierwszy tom Die Säugetiere und Vögel Baierns został opublikowany w 1816 roku[3]. W 1814 roku został przeniesiony do Burglengenfeld, gdzie w 1818 roku awansował na inspektora leśnego (niem. Kreisforstinspector).
Od 1826 roku pracował w Ratyzbonie jako Forstrat[1]. Tam zaczął interesować się etymologią i nawiązał współpracę z Gottliebem Augustem Wilhelmem Herrich-Schäfferem (1799–1874)[3]. W 1828 roku wydał swoje dzieło o amfibiach[1]. W 1835 roku opublikował pierwszy z czterdziestu zeszytów Deutschlands Arachniden, Myriapoden und Crustaceen, kontynuując następnie prace zmarłego Carla Wilhelma Hahna (1786–1835)[1]. W dziele Übersicht des Arachnidensystems (1837–1839) zawarł systematykę pajęczaków[1]. Zajmował się również wijami i w 1847 roku opublikował ich systematykę Das System der Myriapoden[1]. W 1844 roku wydał pracę Systematische Uebersicht der Decken poświęconą m.in. mało jeszcze wówczas poznanym mszycom[1]. O mszycach Koch sporządził większe opracowanie Die Pflanzenläuse, Aphiden, getreu nach dem Leben abgebildet und beschrieben – wydane w 9 zeszytach w latach 1843–1857[1]. Z inicjatywy Georga Carla Berendta (1790–1850) zajął się wraz z nim opisami owadów uwięzionych w bursztynie, co zaowocowało pracą Die organischen Stoffe im Bernstein wydaną w 1854 roku[1][4].
W 1846 roku Koch przeszedł na emeryturę, by całkowicie poświęcić się pracy naukowej[1]. Wskutek choroby oczu oślepł i musiał przeprowadzić się do brata do Erlangen[1]. Po śmierci brata przeniósł się do Bamberga, gdzie przy pomocy ukończył przygotowanie do druku swoich prac o wijach i mszycach[1]. Ostatnie lata życia spędził w Norymberdze u syna – Ludwiga Carla Christiana Kocha (1825–1908), który również zajmował się arachnologią[3]. Zmarł w Norymberdze 23 sierpnia 1857 roku[1].