נולד בנמוקשט (ביידיש: נעמאָקשט; בליטאית: Nemakščiai (אנ')) שבפלך קובנה, בצפון-מערב האימפריה הרוסית (ליטא). במקצועו היה מרקוביץ רצען, אך פרויקט חייו היה ספרו "שם הגדולים השלישי" שבו רצה להשלים ערכים שנשמטו מספרו של חיד"א "שם הגדולים". רק חלק קטן מהספר ראה אור בדפוס ובשנים האחרונות נעשה מאמץ שיתופי בפורום אינטרנט של "אוצר החכמה" להנגיש את החלקים שנותרו בכמה כתבי יד עם שינויים בין המהדורות[1].
מרקוביץ לא ידע לכתוב, ובמשך 38 שנים הכתיב תוך כדי עבודתו את תוצאות מחקריו לבחורים מבתי המדרש של ראסיין תמורת תשלום.