בגיל עשרים נתמנה לתפקיד גבאי בישיבת וולוז'ין. במשך השנים שלאחר מכן עסק בפעילות ציבורית. בין השאר, הוא התכתב עם הברון דוד גינצבורג בפטרבורג, בנושא הוועדה הממשלתית שהוקמה על ידי ממשלת רוסיה בעניין חיי היהודים. פרנסתו הייתה ממסחר והוא עסק בסיטונאות תה.
הלוי היה אחד ממקימיה של תנועת אגודת ישראל באירופה. הוא סבר שעל הקהילות החרדיות שבארצות אירופה להתאגד במסגרת כללית עולמית, לשם שמירה משותפת על האינטרסים הדתיים שלהן. בשנת תרס"ו (1906) הוא החל להציע את רעיון ההתאגדות בפני רבנים ואישים שונים ברחבי אירופה. בין הרבנים הללו היו רבי חיים מבריסק, רבי אליעזר רבינוביץ ממינסק ורבי יעקב רוזנהיים. בדחיפתו ובעידודו קרם רעיון זה עור וגידים, ובמהלך השנים שלאחר מכן הוקמה תנועה עולמית זו.
מאבקו בהשכלה
הלוי עסק רבות בנושאי השקפה ואמונה. בנושאים אלו הוא נאבק עם המשכילים, אשר ניסו לגרום לסגירת החדרים - תלמודי התורה החרדיים במזרח אירופה. הוא פרסם שלושה מאמרים חריפים בעיתון הלבנון שהופיע בפריז ונפוץ גם ברוסיה. כן פרסם גם מאמרים בהמליץ. הוא סיכל את מאמציהם של המשכילים להוציא לאור שולחן ערוך מחודש "מוגה ומתוקן".
חלק חשוב ממאבקו בהשכלה הייתה הוצאת הספרים "דורות הראשונים". ספריו אלו היוו תשובה תורנית מדעית לכמה מספריהם של המשכילים, מאסכולת חכמת ישראל. בין השאר הוא התפלמס עם מחקריהם של ההיסטוריונים הבאים: הרב הפוזיטיבי-היסטורי, זכריה פרנקל וספריו "דרכי המשנה" ו"מבוא הירושלמי", נחמן קרוכמל (רנ"ק) וספרו "מורה נבוכי הזמן", היינריך (צבי) גרץ וספרו "דברי ימי ישראל" ואייזיק הירש וייס וספרו "דור דור ודורשיו". אף עם הרב שלמה יהודה רפפורט (שי"ר) הרבה הרב הלוי להתעמת. הרב הלוי הצביע על טעויות, לדעתו, בשיטת החקירה של המשכילים, ועל עובדת הסתמכותם על ספרי קודמיהם, כגון "סדר הדורות", ללא בדיקה וחקירה יסודיים. הרב הלוי אף האשים חלק מהחוקרים הללו בהטיה ובמגמתיות, מתוך רצון להשחיר את פניהם של חכמי ישראל התנאים והאמוראים[1]. הוא עצמו לא הסתיר את מגמתו ההפוכה, להאיר את דמותם באור חיובי, דבר שגרר ביקורת מקצועית כלפיו, מפי אנשי אקדמיה ומחקר. גם שיטת מחקרו הייחודית עוררה לפעמים הסתייגויות, בעיקר במקומות שלא ביסס את הנחותיו באופן מוחלט. לצד זאת, זכה להערכת חוקרים שונים[2].
ספריו
את ספרי "דורות הראשונים" הוא הוציא שלא לפי הסדר הכרונולוגי, אלא לפי מה שראה כנחוץ יותר. ראשונה יצא לאור החלק השלישי של ספרו על תקופת הסבוראים והגאונים - פרסבורג תרנ"ז (1897). לאחר כמה שנים הוציא את החלק השני, על סוף תקופת התנאים וחיבור המשנה, ועל תקופת האמוראים והתלמוד - פרנקפורט תרס"א (1901). לאחר מכן הוציא שני כרכים מהחלק הראשון: הכרך השלישי – מסוף ימי החשמונאים ועד תקופת הנציבות (פרנקפורט תרס"ו (1906)), והכרך החמישי – מאחר החורבן עד חתימת המשנה (פרנקפורט, תרע"ח (1918)). הכרכים הראשון והשני מחלק זה היו אמורים לעסוק בתקופת התנ"ך[3]. לאחר פטירתו הודפסו שני כרכים נוספים: כרך שישי, העוסק בתקופת המקרא אך כהקדמה לסוף ימי הבית השני (ירושלים: מוסד הרב קוק, תרצ"ט (1939)), והכרך הרביעי מהחלק הראשון העוסק בתקופה האחרונה של הבית השני בעריכתו של משה אוירבך (בני ברק: נצח, תשכ"ד (1964)).
הלוי פרסם גם מאמרים במחקר היסטורי, שהתפרסמו בכתב העת ישורון שיצא לאור בפרנקפורט, ובכתב העת בן עמי של יהודה לייב קנטור.
בחיבוריו עוסק הלוי בשאלות היסטוריות כבדות משקל: האם יש יסוד לתאוריה הדויטרונומיסטית, המאחרת כתיבת חלקים מן התורה לראשית ימי הבית השני? מתי נתקנו תקנות חז"ל? מתי הוחל בחיבור המשנה ועל ידי מי? מי היו הצדוקים והבייתוסים? האם ניתן לסמוך על יוספוס פלאוויוס? האם קדם מרד יהודי לחורבן הבית? מהי חתימת המשנה? כיצד נערך התלמוד? מי היו רבנן סבוראי? ועוד.
מלבד ספריו אלו עסק הלוי גם בכתיבה הלכתית, והוא חיבר ספר בשם "בתים לבדים" על ענייני ספיקות, שנדפס שנים רבות לאחר פטירתו[4].
ספר נוסף שכתב הוא חידושים על מסכת חולין. ספר זה לא נדפס מחוסר אמצעים.
זכרו מונצח ברחוב הנושא את שם ספרו "דורות ראשונים" במרכז ירושלים.
^ראה במאמרו הנ"ל של הרב ד"ר וייברג, בעמ' 235, את דברי ההערכה שלצד דברי הביקורת, וראה בספר דורות הראשונים תקופת המקרא, 'דברים אחדים' מאת ד"ר בנימין מנשה לוין.