פיש נולד בעיירה טרנוב שבגליציה לרב יוסף חיים פיש. למד אצל האדמו"רים מסטוטשין ורופשיץ. בזמן השואה ברח לארץ ישראל[1]. רוב שנות חייו למד אצל הרב משה יעקב רביקוב ("הסנדלר הקדוש"). לימים, קיבל הוראה מהבאבא סאלי להתגלות והחל לקבל אנשים לברכות. בנוסף, לפני פטירתו של הבאבא סאלי, קרא למקורביו ואמר להם כי "רבי אברהם הוא ממשיך דרכו והוא זה שימלא את מקומו בהשפעת ברכותיו לעם ישראל"[2].
התגורר בתל אביב עם רעייתו, פראדל (שרה). הזוג הכניס לביתו אורחים רבים וערך מדי מוצאי שבת סעודת מלווה מלכה גדולה.
סייע למאות חתנים וכלות וקנה להם מוצרי חשמל ובעיקר מקררים. כשנשאל מדוע דווקא מקררים היה עונה שכאשר "יעלה לשמים ויכניסו אותו לגיהנום, אוכל לבקש להתקרר במקררים אלו"[3].
נפטר בערב שבת, י"ג באלול התשנ"ח[4], ונטמן בבית הקברות היהודי העתיק בצפת. בצוואתו ביקש שכל אדם שיעלה על קברו, יאמר את תפילת "רחם בחסדך" שלוש פעמים, והוסיף כי מי שיקיים בקשה זו, מובטחים לו ישועות גדולות בכל נושא (תפילת רחם בחסדך היא קטע מפיוט צור משלו).