Devenu fonctionnaire au sein des nouvelles administrations issues des réformes, il poursuit le parcours de son père, Mohamed Zarrouk, administrateur des palais beylicaux sous le règne d'Ahmed Ier Bey. Zarrouk est nommé président du Conseil municipal et maire de Tunis, poste qu'il occupe entre 1869 et 1881, en remplacement du général Husseïn, puis devient le premier proviseur du Collège Sadiki, entre 1875 et 1881, sous le mandat de Kheireddine Pacha.
Farouchement hostile à l'établissement du protectorat français lors de la signature du traité du Bardo, il ne doit son salut qu'à sa fuite à la chancellerie du Royaume-Uni, d'où il réussit à rejoindre Istanbul grâce à la complicité du consul britannique. Il termine ses jours à Médine, où il est enterré.
