Żyliński var av adelsslekt. Han studerte ved seminaret i Vilna, ble diakonviet 24. mai 1825 og presteviet 2. april 1826. Han ble så dekan ved den katolske katedral i Minsk. Fra 1827 unnderviste han også ved det katolske seminar i Minsk og var rektor for menigheten Ivenets.
I 1829 ble han utnevnt til assessor ved det katolske teologiske kolleg i St. Petersburg og flyttet dermed til den russiske hovedstaden.
Biskop, erkebiskop
Fra 1846 var han administrator for bispedømmet Vilna (Vilnius); den 3. juli 1848 ble han utnevnt til biskop av pave Pius IX. Bispevielsen fant sted den 17. desember 1848 i Sta Katarina-kirken i St. Petersburg ved erkebiskop Kazimierz Roch Dmochowski av Mogilev. Medkonsekrerende var erkebiskop Ignacy Hołowiński, koadjutor av Mogilev, og biskop Kaspar Jastrzębeic Borowski av Łuck og Zytomierz.
I 1855 uttrykte keiser Aleksander II av Russland at Żyliński skulle etterfølge den da avdøde erkebiskop Dmochowski. Den 18. september 1856 approberte pave Pius IX hans kandidatur til metropolitanerkebiskop av Mogilev, hvis overhyrde residerte i St. Petersburg og samtidig var primas for den katolske kirke i Tsarrussland.