Gustav va créixer a Magdeburg amb els seus pares i germana gran. Va començar a tocar la bateria a l'edat de cinc anys, ja que els seus pares van notar que tenia talent per al ritme i el van inscriure a una escola de percussió.[1] La bateria era una manera d'escapar-se de la realitat, ja que a l'escola ho passava malament per la seva alçada, que era molt baixa.[1]
L'any 2001, Gustav va conèixer Bill i Tom Kaulitz, que actuaven des dels nou anys en petits concerts. Gustav diu: "Quan vaig veure en Bill i en Tom, tocant i cantant, de seguida em vaig adonar que el meu futur era amb ells".[1] Gustav era amic de Georg Listing, ja que anava amb ell al conservatori, i poc temps després els quatre van formar Devilish, amb Bill com a cantant, Tom com a guitarrista, Georg com a baixista i ell com a bateria. De seguida van signar un contracte amb la discogràfica Universal Music, i van canviar el nom del grup a Tokio Hotel.[2]
