Окончил командные курсы при Киевской артиллерийской школе в 1921 году, после чего был назначен командиром 2-й батареи Керченской группы береговых батарей Севастопольской крепости[1].
В 1923 году окончил Артиллерийскую школу особого назначения. В 1926 году его перевели в Севастополь, где Жилин получил должность командира 2-й батареи отдельного крепостного зенитно-артиллерийского дивизиона[1].
После окончания курсов усовершенствования командного состава в 1929 году стал командиром 1-го дивизиона 61-го зенитно-артиллерийского полка. В 1933 году был переведён на позицию командира 61-го зенитно-артиллерийского полка[1].
В 1949 году вернулся в Севастополь, получив назначение на должность командующего 100-й зенитной артиллерийской дивизии ПВО Черноморского флота. С сентября 1941 года — заместитель начальника ПВО Черноморского флота по артиллерии. Вышел в отставку в 1953 году по состоянию здоровья[1].
Скончался 7 декабря 1976 года в Севастополе. Похоронен на кладбище Коммунаров[1]. В 1991 году на фасаде дома № 3 по улице Четвёртой Бастионной, где Иван Сергеевич проживал с 1935 по 1941 год, была установлена памятная табличка с рельефным портретом Жилина, которую выполнил скульптор Станислав Чиж[2].