Lucien, le père de Caleb, « écope de deux ans pour avoir poignardé un soupirant homosexuel »[4]. Il avait auparavant eu des amis de passage, tels qu'Allen Ginsberg et William Burroughs.
Cependant, le jeune Caleb Carr, lui, ne reconnaît « aucune sympathie pour les idées professées par la Beat Generation »[4]. Il qualifie les amis beat de son père d'« ivrognes bruyants qui faisaient du raffut »[5].
Après le divorce de ses parents, il se passionne pour l'histoire militaire.
Il entreprend des études supérieures au Kenyon College, dans l'État de l'Ohio, puis entre à l'Université de New York, où il obtient un diplôme en histoire.
Il publie son premier roman intitulé Casing the Promised Land, en 1979. Il est notamment l'auteur d'une biographie Le Diable blanc (The Devil Soldier, 1992) et des romans L'Ange des ténèbres (The Angel of Darkness, 1997) et Le Tueur de temps (Killing Time, 2000) et avant eux de L'Aliéniste (The Alienist, 1996), roman pour lequel il reçoit le Grand prix de littérature policière et le Prix Mystère de la critique. Dans le roman policier historiqueLe Secrétaire italien (The Italian Secretary, 2005), il met en scène le personnage de Sherlock Holmes qui vient en aide à la reine Victoria pour résoudre une affaire criminelle aux complexes ramifications historiques.
Il habite dans l'État de New York, dans une propriété fermière nommée « Misery Mountain », dans la ville de Berlin du comté de Rensselaer, située à une centaine de kilomètres au nord de la ville de New York.
Il s’est présenté en tant que candidat démocrate dans le comté de Rensselaer en 2005, mais il a été largement battu.
Enseignement
Caleb Carr enseigne pendant trois semestres l'histoire militaire au Bard College en tant que professeur invité. Il est aussi un ami proche et le confident de l'historien James Chace(en), décédé en 2004, avec qui il collabore à l'écriture de l'ouvrage America Invulnerable: The Quest for Absolute Security from 1812 to Star Wars (1988).