Haase var son av ein jødisk skomakar og småhandlar. Han studerte juss i Kønigsberg (no Kaliningrad), og vart advokat der. Han vart den første sosialdemokraten i byrådet, og i 1897 vart han riksdagsmedlem. I fleire prosessar forsvarte han politisk forfølgde sosialdemokratar.
I 1914 kjempa han for at riksdagsgruppa til SPD skulle røyste mot krigskredittar, men fekk fleirtalet i gruppa mot seg og måtte røyste mot si eiga overtyding på grunn av partidisiplinen. Men sidan vendte Haase seg stadig sterkare mot krigen og krigspolitikken til fleirtalet i SPD-gruppa. I 1915 måtte han derfor gå av som gruppeleiar, og i 1916 som partileiar. I mars same året vart han leiar for krigsmotstandarane i SPD-gruppa, som no hadde skipa si eiga gruppe. Etter påska 1917 vart han leiar i det nyskipa venstresosialdemokratiske partiet som vart kalla det Uavhengige Sosialdemokratiske partiet i Tyskland, USPD, og som gjekk inn for fredstingingar straks.
Under den tyske novemberrevolusjonen danna Haase 10. november1918 ei provisorisk regjering saman med Ebert frå SPD. Etter at Ebert hadde gitt ordre om valdsbruk mot revolusjonære matrosar i jula 1918, gjekk Haase og dei to andre regjeringsmedlemene frå USPD den 29. desember ut av regjeringa.
Den 8. oktober 1919 vart Haase skoten av ein mann som vart sagt å vere sinnsforvirra. Haase døydde av skadane den 7. november. Han var gift og hadde ein son.
