Родился 18 (30) октября 1828 года в семье диакона Казанского собора Малоярославца Алексея Ивановича Чистовича; мать — Екатерина Васильевна.
В 1842—1847 годах учился в Калужской духовной семинарии. По окончании семинарии был направлен для продолжения обучения в Санкт-Петербургскую духовную академию. Выпуск XIX курса состоялся в 1851 году, Чистович окончил его по первому разряду, 2-м магистром богословия (был утверждён магистром только 8 декабря 1852 года)[1]
Чистович был оставлен при академии и в сентябре 1851 года «определён бакалавром по классу русской церковной и гражданской истории». Затем читал психологию и историю философии.
В 1853 году возглавил кафедру философии, преподавал психологию и философию. С 1856 года — экстраординарный, с 1859 года — ординарный профессор. В 1857 году издал книгу «История Санкт-Петербургской духовной академии», которая была удостоена Академией НаукДемидовской премии.
Также он занимал должности помощника инспектора (1851—1854) и помощника секретаря академического правления (1852—1857); с 1857 по 1863 годы состоял секретарём Петербургского духовно-цензурного комитета.
С 1859 года преподавал психологию и историю философии до Канта, с 1864 — историю философии до и после Канта.
Академия наук в 1865 году присудила И. А. Чистовичу Демидовскую премию, в 1867 — Уваровскую премию за труд «Феофан Прокопович и его время», который издала в 1868.
В 1871 году Чистович защитил диссертацию на степень доктора богословия — «Древнегреческий мир и христианство в отношении к вопросу о бессмертии и будущей жизни человека» (СПб., 1871). 13 декабря 1874 года был избран членом-корреспондентом Санкт-Петербургской академии наук.
Состоял вице-директором канцелярии обер-прокурораСвященного синода, потом управлял контролем при Синоде и был членом учебного комитета.
Оставил после себя много трудов по истории церкви. Все сочинения Чистовича по истории русской церкви составлены на оснований архивных первоисточников и внесли в науку много новых фактов, а отчасти и новых взглядов на более крупных церковно-исторических деятелей.
В «Известиях 2-го отдела Академии Наук»: «Разбор первых томов „истории Русской Церкви“ преосвященного Макария», «Обзор духовной литературы» архиепископа Филарета, «Труды Иакова Болоницкого и Славянская грамматика Иустина Вишневского».
В «Журнале министерства народного просвещения»: «Об отношениях между философией и христианством» (1856).
во «Временнике Общества Истории и Древностей при Московском Университете» — «Процесс по делу об учреждении типографии при киевской митрополии» (1855), «Проект издания российских летописей в 1734 году» (1856), «Показание игумена Симона о приездах царицы Евдокии в Кузмин монастырь» (1856)
в «Чтениях» того же общества — «Выговская раскольническая пустынь» (1859), «Переписка полковника Навицкого с разными лицами», «Материалы для биографии Бецкого» (1863), «Иона Сальникеев» (1868), «Опровержение (Феофелактово) примечаний на книгу Ансильйона» (1872).
в «Православном обозрении» — «Исправление славянской Библии перед изданием 1751 года» (1860), «Решиловское дело» (отдельно: СПб., 1861)
в «Духе христианина»: «Монах Зварыкин. Эпизод из истории Феофана Прокоповича».
в «Христианском Чтении» — «История православной церкви в Финляндии» (1853), «Об отношении между философией и христианством в первые три века христианской церкви» (1854), «Обозрение лютеранских и реформатских обществ в России с середины XVI до начала XVIII века» (1857), «Неоплатоновская философия и отношение её к христианству» (1860), «Естественное богословие» (1863), «Происхождение и бессмертие души человеческой» (1864), «Христианский восток и запад в III в.», «Ориген и Киприан» (1865), «Иконоборчество и римские папы», «Письма св. Василия Великого», «Религия в её исторических и психологических основаниях» (1866), «Неизданные проповеди Стефана Яворского» (1867), «Первый век христианства в писаниях мужей апостольских» (1868).
в «Страннике» — «Новгородский митрополит Иов и его переписка» (1861), «Митрополит Амвросий Подобедов» (1860)
в «Духовной беседе»: «Благочестивые матери-хриситанки», «Преподобная Макрина, сестра Василия Великого и Григория Нисского», «Новый год» (1859), «С каким расположением мы должны встречать всякую важную перемену в нашей жизни» (1854), «О прямоте и искренности характера», «О достоинстве труда и деятельной жизни», «Русская духовная литература в 1859», «Обязанность трудиться для блага потомства» (1860).
Чистович Илларион Алексеевич // Список гражданским чинам четвертого класса. Исправлен по 10-е мая 1874 года. — СПб.: Типография Правительствующего сената, 1874. — С. 611—612.
Чистович Илларион Алексеевич // Список гражданским чинам первых трех классов. Исправлен по 1-е октября 1893 года. — СПб.: Типография Правительствующего сената, 1893. — С. 292.
