Grumbt war der Sohn des Maurermeister Carl Gottlob Grumbt und besuchte die Bürgerschule in Schandau. Im Jahr 1864 siedelte er nach Dresden über und betrieb dort zunächst eine Holz- und Sandsteinhandlung, ab 1868 ein Dampfsäge- und Hobelwerk. Später kaufte er die Herrschaft Schluckenau, wo er später ebenso wie in Sohland ein Dampfsägewerk aufbaute. Außerdem besaß er mehrere Steinbrüche in Sachsen und betätigte sich als Schifffahrtsunternehmer auf der Elbe. Zeitweilig beschäftigte er 450 Arbeiter und war einer der wohlhabendsten Männer Sachsens. Er ließ sich mehrere Villen in Dresden errichten, wovon eine am Alexander-Puschkin-Platz 1 heute noch steht.
Er war verheiratet mit Anna Emilie, geb. Fröde, mit der er einen Sohn Ernst Alfred Grumbt hatte und wurde auf dem Waldfriedhof Weißer Hirsch in Dresden begraben.