Alain Colmerauer studierte ab 1963 an der École nationale supérieure d’informatique et de mathématiques appliquées de Grenoble (ENSIMAG). 1967 wurde er Doktor der Informatik durch seine Dissertation Précédence, analyse syntaxique et langages de programmation. Von 1967 bis 1970 weilte er in Kanada, wo er als Assistenzprofessor an der Universität Montreal tätig war.
Im Jahr 1972 implementierte die Forschungsgruppe Groupe d’Intelligence Artificielle de Luminy in Marseille unter der Leitung von Colmerauer erstmals die Programmiersprache Prolog.
Alain Colmerauer war verheiratet und hatte drei Kinder.