Kawabata fæddist í Osaka, missti foreldra sína á unga aldri og ólst því upp hjá afa sínum og ömmu, sem einnig féllu frá áður en hann komst af unglingsaldri, auk þess sem eina systir hans dó þegar hann var ellefu ára. Kawabata taldi síðar að fjölskyldumissirinn hefði öðru fremur mótað sig sem rithöfnd. Eftir þessi áföll fluttist pilturinn til móðurfjölskyldu sinnar. Hann stundaði háskólanám í Tókýó og varð á þeim árum fyrir talsverðum áhrifum frá verkum Rabindranath Tagore, indverska Nóbelskáldsins.
Eftir útskrift sinnti Kawabata jöfnum höndum ritstörfum og blaðamennsku. Hann hlaut snemma athygli fyrir smásögur sínar og var orðinn þekkt nafn í japönskum bókmenntum vel fyrir þrítugt. Skáldsögur hans nutu þó mestra vinsælda. Snælandið (japanska: Yukiguni) sem birtist sem framhaldssaga á árunum 1935-37 er líklega kunnust þeirra, en auk hennar voru bækurnar Þúsund trönur (japanska: Senbadzuru) og Gamla höfuðborgin (japanska: Koto) nefndar sérstaklega í rökstuðningi sænsku Nóbelsnefndarinnar þegar hann fékk bókmenntaverðlaunin árið 1968.
Kawabata lést úr gaseitrun árið 1972 við dularfullar kringumstæður. Deilt er um hvort um slys hafi verið að ræða eða sjálfsmorð.
