Fischer János és Krammer Amália fia. Budapesten az állami felső építő ipariskolában szerzett építőmesteri képesítést (1889–1893), 1897-ben tette le az építőmesteri vizsgát, majd Párizsban az École nationale supérieure des Beaux-Arts-ban folytatta tanulmányait (1897–1900) Jean-Louis Pascalnál. Az 1900-as párizsivilágkiállításon a magyar kormánybizottság tagja volt, és néhány kiállítási csoport megtervezéséért a franciáktól az Officier d’Académie kitüntetést kapta. Fittler Kamillal és Maróti Gézával készítették az 1906-os milánói kiállítás magyar pavilonját, melyért a Ferenc József rend lovagkeresztje elismerést kapta. 1908-ban a londoni építészeti kiállításon, 1910-ben pedig a bécsi nemzetközi vadászati kiállításon aratott sikert magyar pavilonjával, utóbbiért elismerésképpen királyi tanácsossá nevezte ki az uralkodó. Számos bel- és külföldi tervpályázaton indult, ahol több díjat nyert. A milánói Brera Akadémia tagja volt. 1903 és 1905 között Gondos Izidorral volt társas viszonyban, majd 1905 és 1912 között Detoma Alfonzzal társult. Mindkét cégnek Fischer lakásán működött az irodája 1910-ig a Fehérvári út 51. (ma Móricz Zsigmond körtér 2.), utána az Átlós út 8. (ma Kosztolányi Dezső tér 12.) szám alatt. A Fischer és Detoma cég szinte kizárólag Lágymányoson tervezett és kivitelezett épületeket, elsőként valósítottak meg keretbeépítés lakótömböt és elsőként kezdeményezték a szövetkezeti társasházak építését is. Fischer a cég megszűnése után építőmesteri engedélyét visszaadta és már csak tervezéssel foglalkozott.
A pesti Belvárosban a Haris köz folytatásaként 1914-ben, a Belvárosi Házépítő Rt. részére a Pilvax közben négy, egész utcát felölelő üzletekkel kombinált lakóházat tervezett. Lágymányos fejlesztése az 1920-as években is szívügye volt, korábbiaknál jóval nagyobb, egész telektömböt felölelő társasházakat tervezett, melyeknek összetett (ún. meanderes) alaprajza volt, annak érdekében, hogy elkerülje zárt belsőudvari szárnyak keletkezését. A hangsúly az alaprajzon volt, az udvarokkal és zárterkélyekkel mozgalmassá tett homlokzatokat kevés, visszafogott díszekkel tervezte: "Új Otthon" társasházak (Zenta utca, 1., 3., 5.), „Mérnökök Háza” társasház (Budafoki út 17.), "Budai Otthon" társasházak (Vak Bottyán utca 1., 3., 5.) Utolsó jelentősebb megépült lakóháza a Dob utca–Károly körút sarkán álló Diána-ház (kis lőtoronnyal a tetején).
Első felesége Bokor József nevelt lánya, Olga Glimming volt.[9] Második felesége, Jasper Margit házasságuk után nem sokkal elhunyt, így harmadszor is nősült, utolsó felesége Páncz Amália volt.[10] 69. életévében hunyt el Budapesten, halálát szívelégtelenség okozta. Sírja a Farkasréti temetőben található.
Fischer József élete során mintegy 25 lakóházat tervezett.[11]
Ismert épületei
1901–1902 Fischer-ház, 1114 Budapest, Móricz Zsigmond körtér 2.[12]
1903–1904 Staffenberger-ház, 1052 Budapest, Piarista utca 6. (Scheer Izidorral)[13]