En 1903, il épouse Malka Kamay, née en 1875 et morte le 23 septembre 1958[8]. Elle est la fille du rabbin Eliyahu Baruch Kamai, né le 17 septembre 1840 à Shkod et mort le à Minsk (Biélorussie), rosh yeshiva de la yechiva de Mir[9] et de Rivka Jaffe (Yaffe), née en 1843 et morte en 1909 en Biélorussie[10].
En 1903, Eliézer Yehouda Finkel épouse la fille du rosh yeshiva de la yechiva de Mir. Trois ans plus tard, il devient membre de l'administration de la yechiva. Avec la mort de son beau-père, en 1917, il devient rosh yeshiva.
Après la guerre, les étudiants de la yechiva de Mir, quittent la Chine et immigrent aux États-Unis, sous la direction du rabbin Chaim Leib Shmuelevitz, le gendre de Eliézer Yehouda Finkel. Ce dernier fonde la nouvelle yechiva de Mir à Jérusalem.
Lorsque Eliézer Yehouda Finkel décède le 19 juillet 1965 (19 Tammouz 5725), son fils, le rabbin Beinish Finkel et son beau-frère, le rabbin Chaim Leib Shmuelevitz deviennent les rosh yeshiva. Chaim Leib Shmuelevitz est considéré comme le principal rosh yeshiva et quand il meurt, son neveu, le rabbin Nochum Partzovitz, le remplace. Le rabbin Beinish Finkel devient Rosh Yeshiva après le décès du rabbin Nachum Partzovitz. À la mort du rabbin Beinish Finkel en 1990, son neveu et gendre, le rabbin Nathan Tsvi Finkel devient Rosh Yeshiva. Après la mort soudaine de ce dernier, le , son fils aîné, le rabbin Eliézer Yehouda Finkel, est nommé comme successeur de son père.
