Giovanni trouwde op 20 januari1453 met Ginevra degli Alessandri, een dochter van Niccolò. Samen hadden ze een zoon, Cosimino, die in 1459 overleed. Giovanni had naar alle waarschijnlijkheid twee buitenechtelijke kinderen, die eveneens op jonge leeftijd zijn overleden.
Giovanni's vader, hoofd van de Medici-familie, beoogde hem als zijn opvolger. Giovanni overleed echter eerder dan zijn vader zodat zijn ziekelijke oudere broer Piero di Cosimo de' Medici, bijgenaamd il Gottoso (de jichtige), alsnog hoofd van de familie werd.
