Han ble født i Polen, men foreldrene emigrerte til Palestinamandatet da han var seks år gammel. Etter fullført videregående skole i Tel Aviv var han på kibbutzenSedot Yam i 12 år.
Sammen med en gruppe venner grunnla han Masa, et litterært ukeblad og var redaktør av dette i 15 år. Han var også litterær redaktør for flere aviser. Fra 1968 til 1971 var han kulturattasjé ved Israels ambassade i London, og i 1977/78 var han knyttet til Center for Hebrew Studies ved Oxford University som husdikter, en stilling han også hadde ved University of Iowa.
Han ga ut 35 bøker og vant en rekke priser for sitt forfatterskap. Han fikk Israelsprisen i litteratur i 2003. Hans bøker er oversatt til en rekke språk og har kommet ut i Storbritannia, USA, Argentina, Frankrike og andre land.
Megged var gift med forfatteren Ida Tsurit og er far til forfatteren Eyal Megged og Amos Megged, universitetslektor i historie ved Haifa University.