Rémy și-a început cariera jucând pentru un club local de tineret din orașul său natal, Lyon, înainte de a se alătura celui mai mare club din oraș, Lyon, alăturându-se academiei de tineret. În 2005, a fost promovat la echipa de seniori și s-a străduit să se stabilească în trei sezoane sub antrenorii Gérard Houllier și Alain Perrin. În 2008, a fost împrumutat la Lens și, după o perioadă de succes, a fost achiziționat de Nice înainte de sezonul 2008-2009. Cu Nice, Rémy a înflorit în rolul de atacant, marcând peste 25 de goluri în cei doi ani petrecuți la club. În 2010, după ce a susținut interesul mai multor cluburi din țară și din străinătate, Rémy s-a alăturat campioanei în curs, Marseille, cu un contract de cinci ani. S-a mutat pentru prima dată în străinătate pentru a se alătura celor de la Queens Park Rangers în ianuarie 2013, dar nu a putut împiedica retrogradarea acestora. În sezonul următor, a rămas în Premier League împrumutat la Newcastle United. În vara lui 2014, Rémy a semnat cu Chelsea pentru suma estimată de 10,5 milioane de lire sterline, unde a câștigat Cupa Ligii și Premier League în primul său sezon. A fost trimis sub formă de împrumut la Crystal Palace pe 30 august 2016, dar s-a întors aproape imediat la Chelsea luna următoare, după ce a suferit o accidentare la gleznă.