Ayew verliet AS Lyon-Duchère in 2006 voor de jeugdopleiding van Olympique Marseille. Hier tekende hij in 2009 een driejarig contract en debuteerde hij op 16 december 2009 in het eerste elftal, tijdens een competitieduel in de Ligue 1 tegen Lorient. Hij scoorde de gelijkmaker, waarop Marseille uiteindelijk met 2–1 won. Ayew maakte zijn tweede doelpunt voor Marseille thuis tegen OGC Nice, in een wedstrijd waarin zijn broer André een hattrick scoorde. Het seizoen 2009/10 sloot Ayew met zijn club af als landskampioen.[1]
Jordan en André begonnen op 1 november 2011 voor het eerst samen aan een wedstrijd, een duel in de Champions League tegen Arsenal. De tweede helft van het seizoen 2013/14 speelde Ayew op huurbasis bij FC Sochaux, omdat hij weinig speelminuten kreeg bij Marseille. Hij kon niet helpen voorkomen dat de club uit de Ligue 1 degradeerde.
FC Lorient
Ayew tekende in juli 2014 een contract voor vier jaar bij FC Lorient.[2] Hiermee eindigde hij dat jaar als zestiende in de Ligue 1. Het bleek meteen zijn laatste jaar bij de club. Hij speelde 31 competitiewedstrijden en maakte daarin twaalf doelpunten voor Lorient.
Aston Villa
Ayew tekende in juli 2015 een contract tot medio 2020 bij Aston Villa FC, de nummer zeventien van de Premier League in het voorgaande seizoen. Dat betaalde circa €12.500.000,- voor hem aan FC Lorient.[3][4] In zijn eerste seizoen degradeerde hij voor de tweede keer in zijn carrière. Hij kwam wel tot zeven goals in de Premier League, iets wat hij een niveautje lager niet voor elkaar kreeg.
Swansea City
Halverwege het seizoen 2016/17 keerde Ayew terug in de Premier League bij Swansea City, waar hij in zij eerste seizoen één keer scoorde. In zijn eerste volledige seizoen in Wales ging het hem een stuk beter af: hij scoorde elf doelpunten in alle competities, zijn op-een-na hoogste aantal in zijn carrière.
Crystal Palace
Crystal Palace huurde Ayew gedurende het seizoen 2018/19 van Swansea City en nam hem daarna definitief over. Dat seizoen scoorde hij negen doelpunten in de Premier League, zijn hoogste aantal. Hij zou de seizoenen erna telkens meer dan 30 wedstrijden spelen, afwisselend als basisspeler en invaller.