Latem 2007 roku przeszedł na zasadzie wolnego transferu do Valencii. 2 września zadebiutował w jej barwach w Primera División w wygranym 2:1 meczu z Almeríą, natomiast pierwszego gola strzelił 3 lutego 2008 w spotkaniu z Realem Valladolid. W 2008 roku wraz z Valencią zdobył puchar Hiszpanii – w wygranym 3:1 finale z Getafe CF zdobył jedną z bramek[3]. W sezonie 2007/2008 zadebiutował również w europejskich pucharach – 11 grudnia 2007 zagrał w spotkaniu Ligi Mistrzów z Chelsea[4].
Podstawowym zawodnikiem Valencii stał się w połowie grudnia 2007 roku. W sezonach 2008/2009 i 2009/2010 regularnie występował w rozgrywkach Pucharu UEFA/Ligi Europy, natomiast w sezonie 2010/2011 rozegrał siedem meczów i zdobył jednego gola (z rzutu karnego w meczu fazy grupowej z tureckim Bursasporem[5]) w Lidze Mistrzów[1].
21 sierpnia 2011 roku Chelsea porozumiała się z Valencią w sprawie transferu Maty[6]. Trzy dni później Hiszpan został zawodnikiem londyńskiego klubu, podpisując z nim pięcioletni kontrakt[7]. W nowym zespole zadebiutował 27 sierpnia w wygranym 3:1 meczu z Norwich City, w którym strzelił jednego z trzech goli dla swojej drużyny[8]. W sezonie 2011/2012 wraz z Chelsea zdobył puchar Anglii, wygrał również Ligę Mistrzów – w spotkaniu finałowym z Bayernem Monachium wystąpił w podstawowym składzie, a w serii rzutów karnych nie zdobył bramki (Manuel Neuer obronił)[9]. W sezonie 2013/14 po przyjściu do klubu nowego trenera – Jose Mourinho, Mata zasiadł na ławce rezerwowych. Nie wystąpił w Superpucharze Europy w meczu z Bayernem, a jego drużyna uległa w rzutach karnych. Dopiero po kilku meczach portugalski szkoleniowiec dał zagrać w podstawowym składzie The Blues. Ostatecznie Mata znowu wrócił do pierwszego składu londyńskiej drużyny.
24 stycznia 2014 roku Manchester United poinformował, że ustalił z Chelsea warunki transferu Maty[10]. Dzień później piłkarz oficjalnie podpisał kontrakt z nowym klubem[11]. 28 stycznia 2014 roku zadebiutował w meczu z Cardiff City wygranym przez zespół z Manchesteru 2:0, Mata zanotował asystę przy drugim trafieniu[12]. 29 marca 2014 zdobył pierwszego gola w barwach United, w wygranym 4:1 spotkaniu z Aston Villą[13]. Od 1 lipca 2021 roku, po wygaśnięciu kontraktu z Manchesterem United, był wolnym zawodnikiem. Następnego dnia ponownie związał się roczną umową z tym klubem. 2 czerwca 2022 roku Manchester United poinformował o nie przedłużeniu kontraktu z Matą[14].