Rafi Gavron wurde als ältester von drei Söhnen einer jüdischen Familie geboren und wuchs in London auf. Seine Mutter ist die Schriftstellerin Martha Pichey, sein verstorbener Vater war der Verleger Simon Gavron. Gavrons Großvater war der britische Millionär Robert Gavron, sein Ur-Großvater der Schriftsteller T. R. Fyvel. Seine Tante ist die Regisseurin Sarah Gavron.
Neben seinen Auftritten in Filmen hatte er auch Gastauftritte in Serien wie Rom und 24. Des Weiteren wurde er noch durch seine Rolle als Bug in der Serie Life Unexpected bekannt.