Był synem wrocławskiego architekta Alberta Graua. Do śmierci ojca w roku 1900 pomagał mu w prowadzeniu ich pracowni projektowej, następnie prowadził ją samodzielnie jako wolny architekt. Był członkiem Niemieckiego Związku Architektów (BDA). Początkowo projektował głównie wille dla zamożnych wrocławian w Borku oraz na Szczytnikach, Zalesiu. Przed I wojną światową należał obok Conrada Helbiga, Richarda i Paula Ehrlichów, Richarda Mohra i Herberta Erasa do najbardziej wziętych wrocławskich architektów specjalizujących się w tego typu projektach. Zasłynął także jako architekt kościołów ewangelickich i budynków użyteczności publicznej.