У вересні 1941 року призваний у Червону Армію Полевським райвійськкоматом Свердловської області. До літа 1943 року служив інструктором з кулеметної справи в Свердловську, у бойових діях брав участь з серпня 1943 року.
26 вересня1943 року у бою за село Сидорівка і містечко Любеч (тепер — Ріпкинського районуЧернігівської області) Олександр Іванович, відбиваючи контратаку противника, підтриману танками, вогнем ручного кулемета вніс замішання до лав автоматників, що слідували за танками, і, скориставшись цим, знищив 15 німецьких солдатів. На північній околиці Любеча вивів з ладу автомашину з солдатами противника. 28 вересня1943 року при форсуванні Дніпра першим увірвався в траншеї противника, вогнем свого кулемета придушив 2 ворожих вогневих точки, що заважали форсувати Дніпро решті підрозділів полку. Ці епізоди служби Жиліна стали підставою для його подання до звання Героя Радянського Союзу. Указ про присвоєння Олександру Івановичу Жиліну звання Героя Радянського Союзу з врученням ордена Леніна і медалі "Золота Зірка" вийшов 15 січня1944 року[1]. Однак отримати нагороди герой не встиг. 6 березня1944 року Олександр Іванович Жилін загинув у бою біля села Купіль (нині — в Волочиському районі Хмельницької області).
Пам'ять
Ім'я Героя увічнено на меморіальній дошці на честь Героїв Радянського Союзу — уродженців Кіровської області в парку палацу піонерів міста Кірова
Ім'я Героя викарбувано золотими літерами в Залі Слави Центрального музею Великої Вітчизняної війни в Парку Перемоги Москви.
На могилі героя встановлено надгробний пам'ятник.
Ім'ям героя названі вулиці в Полевському і Совєтську, а також школа в селі Купіль.