Народився в Австрії, проте коли Єгошуї ще не було й року разом з батьками емігрував до Ізраїлю, виріс у будинку поряд зі стадіоном «Блумфілд». Цей будинок збудували араби, які незабаром після створення Ізраїлю залишили Яффу. Свою кар'єру гравця Файгенбаум розпочав у «Хапоелі» (Тель-Авів). У 1965 році був переведений до першої команди й у сезоні 1965/66 років дебютував в її складі в Першій лізі Ізраїлю. 5 червня 1966 року відзначився дебютним голом у футболці «Хапоеля», сталося це в принциповому протистоянні тель-авівського дербі проти «Маккабі». У «Хапоелі» виступав до завершення сезону 1978/79 років. У сезонах 1965/66 та 1968/69 років ставав переможцем ізраїльського чемпіонату. У 1972 році став володарем Кубку Ізраїлю (у фіналі турніру відзначився переможним голом у воротах єрусалимського «Хапоеля»), а в 1967 році — Кубку чемпіонів Азії. Найкращий бомбардир «Хапоеля» в матчах національного чемпіонату (132 голи) та в усіх змаганнях (175 голів). Також займає 3-тє місце у списку гравців, які зіграли найбільшу кількість матчів у національному чемпіонаті (368).
У 1979 році перейшов до тель-авівського «Шимшону». У сезоні 1980/81 років виступав єрусалимському «Хапоелі», а в 1981 році перейшов до «Хапоель» (Рамат-Ган). У 1983 році став гравцем «Бейтару» (Рамла), в складі якого в 1984 році завершив кар'єру футболіста. У вищому дивізіоні ізраїльського чемпіонату відзначився 148-ма голами, посідаючи 10-те місце в списку найкращих бомбардирів ліги.
На Олімпійських іграх у Мексиці, в 1968 році відзначився 4-ма голами. У 1970 році Файгенбаум був у складі ізраїльської збірної на Чемпіонату світі в Мексиці, на якому зіграв 3 матчі: з Уругваєм (0:2), зі Швецією (1:1) та з Італією (0:0). На цьому турнірі також відзначився одним голом. 20 березня 1977 року він востаннє вийшов у формі національної збірної в матчі кваліфікації чемпіонату світу 1978 року проти Південної Кореї. З 1966 по 1977 рік зіграв у національній збірній 51 матч та відзначився 24-ма голами (рекордний показник для гравців «Хапоеля» (Тель-Авів).
У 2009 році був обраний до Зали слави ізраїльського футболу.
