Naceu nunha facenda chamada Caiçara, ao pé da Serra de Araripe, na zona rural de Exu, no interior de Pernambuco. O lugar sería lembrado anos máis tarde en "Pé de Serra", unha das súas primeiras composicións. Seu pai, Januário, traballaba na roza, nun latifundio, e nas horas vagas tocaba o acordeón. Foi con el con quen Luiz Gonzaga aprendeu a tocalo. Non era aínda un mozo cando comezou a se presentar en bailes e feiras, nun principio na compaña do seu pai. Auténtico representante da cultura nordestina, mantívose fiel ás súas orixes mesmo continuando coa carreira musical no sur do Brasil. O xénero musical que o consagrou foi o que en portugués se denomina baião. A canción emblemática da súa carreira foi Asa Branca, que compuxo en 1947, en colaboración co avogado cearense Humberto Teixeira.
Aos dezaoito anos fuxiu de casa e ingresou no exército en Crato, Ceará. A partir de aí, durante nove anos viaxou por varios estados brasileiros, como soldado. En Juiz de Fora, Minas Xerais, coñeceu a Domingos Ambrósio, tamén soldado e coñecido na rexión pola súa destreza coa zanfona, de quen recibiu importantes leccións musicais.
En 1939 deuse de baixa do exército no Río de Xaneiro, decidido a se dedicar á música. Na entón capital do Brasil, comezou a tocar na zona do meretricio. No inicio da carreira, apenas se amañaba co acordeón, interpretando sambas, fox e outros xéneros da época. O seu repertorio estaba composto basicamente por músicas estranxeiras que presentaba, sen éxito, en programas para principiantes, até que, no programa de Ary Barroso, foi aplaudido executando "Vira e Mexe" (o primeiro disco que gravou en 78 rpm), un tema de sabor rexional, da súa autoría. Veu de aí a súa primeira contratación na Radio Nacional.
O 11 de abril de 1945, Luiz Gonzaga gravou a súa primeira canción como cantante, no estudio da RCA Victor: a mazurcaDança Mariquinha en colaboración con Saulo Augusto Silveira Oliveira.
En 1948 casou coa pernambucana Helena Cavalcanti, profesora que se convertera na súa secretaria particular. Non tivo fillos.
Morreu, vítima dunha parada cardiorrespiratoria, no Hospital Santa Joana, na capital pernambucana, e foi sepultado no seu municipio natal.