25 серпня 2002 року дебютував у професійному футболі за «Шахтар-3» в матчі Другої ліги проти димитровського клубу «Угольок» (0:0). Усього за третю команду «гірників» провів 14 матчів у чемпіонаті й забив один гол. Улітку 2003 року з основною командою відправився на Меморіал Лобановського, де навіть забив гол у фіналі, проте закріпитися в основній команді не зумів і з 2003 по 2005 рік виступав за «Шахтар-2» в Першій лізі.
Першу половину сезону 2007/08 провів на правах оренди в одеському«Чорноморці», проте закріпитися у складі «моряків» не зміг і в січні 2008 року був відданий в оренду в маріупольський«Іллічівець»[1], де провів весь рік, допомігши команді виграти Першу лігу й вийти до еліти.
Костянтин Ярошенко під час виступів за «Карпати». 16 жовтня 2016 року.
У грудні 2008 року був відданий в оренду полтавській «Ворсклі» до кінця сезону[2].
Улітку 2009 року Ярошенко знову був відданий в оренду «Іллічівцю»[3], де провів чотири сезони, стабільно граючи в основному складі.
20 червня 2013 року Костянтин уклав трирічний контракт із новачком Прем'єр-ліги «Севастополем»[4]. У складі кримських «моряків» був основним гравцем команди, зігравши у 21 матчі чемпіонату, у яких забив 2 голи.
Улітку 2014 року, після того як «Севастополь» через анексію Криму Росією припинив існування, Ярошенко на правах вільного агента перейшов у російський «Урал»[5].
31 серпня 2016 року приєднався до польського клубу «Арка»[6], але зрештою вже на початку вересня того ж року залишив команду[7].
15 вересня 2016 року офіційно став гравцем львівських«Карпат»[8], але вже у грудні того ж року за обопільною згодою залишив команду[9] і другу половину сезону провів в «Іллічівці»[10].
У серпні 2017 уклав контракт з фінським клубом КПВ, який виступав у другому за силою дивізіоні чемпіонату Фінляндії[11].
10 липня 2019 року Ярошенко підписав контракт з одеським«Чорноморцем»[12]. 12 грудня 2019 року «Чорноморець» розірвав контракт з футболістом[13].
