Il est le fils de James Carroll et d'Harriet née Chiverton. Il obtient son titre de docteur en 1891 avant de suivre une spécialisation à l’hôpital Johns-Hopkins. Il se marie, en , avec Jennie M. George Lucas.
Il est également conservateur du musée de médecine de l’armée.
Pour démontrer que le moustique est bien le vecteur de la fièvre jaune, il n’hésite pas à se faire piquer par un moustique infecté. Il prouve également la nature virale de l’agent infectieux.
