Kimball växte upp i Vinton, Louisiana.[2] Han började sjunga som barn, och spelade piano och akustisk gitarr under sin ungdomstid.[3] Han intresserade sig främst för 1950- och 1960-talets R&B, liksom lokal Swamp pop- och Cajunmusik, typisk för Louisiana.
1974 flyttade Kimball från Louisiana till Los Angeles i Kalifornien[4] för att fortsätta en musikkarriär på heltid. I Kalifornien bildade tillsammans han med tre medlemmar av bandet Three Dog Night ett band med namnet S.S. Fools.[3] De släppte ett album på CBS Records, som ansågs vara ett kommersiellt misslyckande, vilket orsakade att bandet sparkades från skivbolaget och splittrades inom ett och ett halvt år.
1976 bad David Paich och Jeff Porcaro Kimball att börja spela med dem och med tre andra sessionmusiker. Dessa musiker skulle sedan bilda Toto. Kimball presenterade en självskriven auditionlåt för bandet: "You Are the Flower", och senare inkluderades han på Totos debutalbum. Paich och Porcaro var imponerade av Kimballs bluesiga sångstil och erbjöd honom jobbet som sångare och låtskrivare i Toto.[3]
