Rhau studeerde vanaf 15 april 1513 Filosofie aan de Universiteit van Wittenberg. Op 27 juni 1514 verkreeg hij zijn B.A. aan de faculteit filosofie. In de zomer van 1518 zette hij zijn studie voort aan de Universiteit van Leipzig, waar hij op 18 september 1518 werd aangenomen als medewerker aan de filosofische faculteit. Bovendien was hij vanaf augustus aan het werk als Thomascantor, muzikaal leider van het koor van de Thomasschule en de Thomaskirche (Leipzig) en voerde in die hoedanigheid tijdens de Leipziger Disputation op 27 juni 1519, een twaalfstemmig door hem gecomponeerde mis uit.
In 1520 moest hij Leipzig vanwege zijn sympathie voor de reformatie verlaten, en kreeg een aanstelling als schoolmeester in Eisleben en Hildburghausen. Eind 1522 vestigde hij zich in Wittenberg als drukker, later begon hij een Boekdrukkerij, die hij tot zijn dood dreef. De zaak werd daarna door zijn erfgenamen tot 1566 voortgezet.
Johannes Joachim: Die Drucker Johannes Grunenberg en Georg Rhau in Wittenberg. In: Zentralblatt für Bibliothekswesen. Jahrgang 21. 1904, S. 433-439.
Hans Lülfing: Universität, Buchdruck en Buchhandel in Wittenberg, vornehmlich im 16. Jahrhundert. In: 450 Jahre Martin Luther Universität Halle Wittenberg Band 1: Wittenberg 1502-1817. Halle 1952, S. 377-391, 380.
Johannes Luther: Der Wittenberger Buchdruck in seinem Übergang zur Reformationspresse. In: Lutherstudien zur 400-Jahrfeier der Reformation … Weimar 1917, S. 261-282.
Stefan Oehmig: 700 Jahre Wittenberg, Stadt – Universität – Reformation. Verlag Hermann Böhlaus, Weimar 1995, ISBN 3740009578.