בשנת 1953 החליט הרב אהרן קוטלר להקים ישיבה נוספת מחוץ לעיר לייקווד[1] ולשם כך אסף קבוצה מתלמידיו והעמיד בראשם את הרב קמנצקי והרב דב שוורצמן ושלחם להקים ישיבה בפילדלפיה. לאחר כשנתיים החליט הרב דב שוורצמן לעלות לישראל ולהקים שם את ישיבת בית התלמוד, אז פנה הרב קמנצקי לרב אליהו שווי שהיה אף הוא מתלמידיו הגדולים של הרב קוטלר והזמינו לכהן לצדו בראשות הישיבה, השניים כיהנו יחדיו עד לפטירתו של הרב שווי בראש חודשניסןה'תשס"ט (מרץ2009).
