Jelavić startet karrieren i kroatiske NK Omiš, og spilte for RNK Split, HNK Rijeka og HNK Hajduk Split som ung spiller. Han fikk sin profesjonelle debut som spiller for HNK Hajduk Split, da laget tapte 0–1 for NK Zadar 31. juli 2011.[1]
Jelavić prøvespilte for Manchester City i 2013, men overgangen falt gjennom på grunn av problemer med oppholdstillatelsen.[2] Han gikk til NK Slaven Belupo senere samme år, etterfulgt av VfL Bochum. Han spilte ingen førstelagskamper for VfL Bochum, og signerte for Atlético Madrid året etter, hvor han ble en del av klubbens reservelag.
Det ble 13. februar 2015 kjent at Jelavić var på vei til Åtvidabergs FF, og han ble presentert av klubben kun dager senere.[3]