Avusturya'nın Linz kentine, Bosna-Hersek'teki Kotor Varoš'tan oraya taşınan Bosnalı Hırvat ebeveynlerden dünyaya gelen Kovačić, erken yaşlarda yerel LASK Linz'in genç takımında futbol kariyerine başladı.[7] 2007 yılında, Kovačić 13 yaşındayken Ajax, Internazionale, Juventus ve Bayern Münih dahil olmak üzere birçok tanınmış Avrupa kulüplerinin yetenek avcıları tarafından fark edildi, ancak ailesi Hırvat takımı Dinamo Zagreb akademisine katıldığı Zagreb'e taşındı.[7][8] Kovačić, 2009 yılında bacağının kırıldığı ciddi bir yaralanma geçirdi, ancak 31 Mayıs 2010'da uzun bir toparlanmanın ardından sahalara geri döndü ve 17 yaş altı Hırvat akademi liginin son maçında RNK'ya karşı 5-0'lık galibiyet kazandıkları maçta yer aldı.[9]
Dinamo Zagreb
Kovačić dört ay sonra 6 Ekim 2010'da Vahid Halilhodžić'in isteği ile kulübün üst düzey kadrosu ile antrenmana başladı, ancak Ekim ayında kulüpte akademi lig maçlarında oynamaya devam etti.[10] Aynı ay içerisinde, yerel spor günlükleri Sportske novosti, Arsenal'in baş yetenek avcısı Steve Rowley'nin Cibalia ve NK Zagreb'e karşı 17 yaş altı maçlarda oynamasını izlemek için Zagreb'e geldiğini bildirdi.[11]
Kovačić ilk kez profesyonel ligde 2010-11 Prva HNL deplasman maçında 20 Kasım 2010'da Hrvatski Dragovoljac ile deplasman maçında oynadı ve Dinamo'nun 6-0 galibiyetinde dördüncü golünü attı.[12] 2012-13 sezonunun başında, kulübün başka bir UEFA Şampiyonlar Ligi'ne giden eleme yolunda birkaç maçı kaçırmasına neden olan bir kemiksel problemler yaşadı. Dinamo'nun Porto'ya karşı ilk Şampiyonlar Ligi'nde oynadığı maçta sahalara geri döndü.[13]
Inter Milan
31 Ocak 2013'te Kovačić, Internazionale'ya transfer olmayı kabul etti. Anlaşmanın toplamda 15 milyon € değerinde olduğu ve Inter'in UEFA Şampiyonlar Ligi'ne hak kazanması durumunda hemen ve 11 milyon € ödenmesi ve yıllık 4 milyon € maaş vereceğini duyurdu.[14] Kovačić, daha önce 10 numarayı giyen Wesley Sneijder'in takımdan ayrılmasının ardından 10 numaralı formayı giydi.[14]
Real Madrid
16 Ağustos 2015'te, teknik direktör Roberto Mancini kulübün Finansal Fair Play düzenlemeleri nedeniyle Kovačić'i Real Madrid'e satmak zorunda kaldığını bildirdi.[15]Real Madrid iki gün sonra transferi onayladı ve Kovačić'in kulüp ile altı yıllık bir sözleşme imzaladığını duyurdu.[16][17]Inter'in Yönetim Raporu (İtalyanca: Relazione sulla Gestione) bölümündeki mali dosyalamasına göre, transfer ücreti 29 milyon € idi.[18] İlk sezonunun sonuna kadar toplam 34 maçta forma giydi. Sezonun başlayan aylarında, Real Madrid teknik direktörü Rafael Benítez tarafından oldukça düzenli olarak forma şansı buldu, neredeyse her orta saha pozisyonunda oynuyor - bazen merkezi, bazen geniş, bazen daha ileri mevkilerde rol alıyordu. Zinedine Zidane'ın Ocak ayı başında Benítez'in yerine göreve geldikten sonra, Kovačić'in maç şansı giderek seyrekleşti. Fransız, Benítez'in uyguladığı rakipler için daha spesifik kadrolar yerine mümkün olduğunca çok tanımlanmış bir ilk 11 kullanmayı tercih ederken, Kovačić bu durumdan etkilendi ve forma şansı bulamadı. Toplam sekiz maçta yer aldı ve Real Madrid'in 2015-16 UEFA Şampiyonlar Ligi şampiyonluğuna giden rotasında bir gol attı.[19] Kovačić ilk La Liga golünü 29 Ocak 2017 tarihinde Real Sociedad karşısında 3-0 kazandıkları maçta attı.[20] Real Madrid'in 2016-17 La Liga ve 2017 UEFA Şampiyonlar Ligi finalini kazandığı sezonda yarı zamanlı olarak forma şansı buldu.[21][22][23]
Chelsea
8 Ağustos 2018'de Kovačić, Chelsea'ye bir yıllığına kiralandı.[24][25] İlk maçına 18 Ağustos'ta Arsenal'e karşı 3-2 galibiyet kazandıkları maçın ikinci yarısında girdi.[26]
1 Temmuz 2019'da Kovačić, beş yıllık bir sözleşme imzalayarak Chelsea'ye kesin olarak transfer oldu.[27][28]
Kovačić, Chelsea formasıyla ilk golünü 27 Kasım 2019'da Mestalla Stadyumu'nda Valencia'ya karşı 2-2 kaldıkları UEFA Şampiyonlar Ligi maçında attı.[29] 7 Aralık 2019'da ilk Premier League golünü Everton'a karşı 1-3 deplasmanda kaybettikleri maçta attı.[30]