В своей первой гонке международного уровня Янка принял участие в декабре 2001 года. За следующие четыре года ему не довелось получить ни одного призового места. С января 2004 года Карло начал участвовать в соревнованиях Кубка Европы. 25 декабря 2005 года талантливый швейцарец дебютировал в составе национальной сборной на этапах Кубка мира в Словении, в Краньска-Гора. Он поучаствовал в двух дисциплинах, однако ни на одном из соревнований не сумел даже добраться до конца. На чемпионате мира среди юниоров 2006 года, Янка взял бронзу в гигантском слаломе. Сезон 2006/07 Янка провел в Кубке Европы и занял по его итогам 4 место, что дало повод тренерам сборной рассчитывать на него, как на спортсмена основной команды. На следующий сезон Карло Янка вновь вернулся в розыгрыш мирового кубка. Первый хороший результат на Кубке мира Карло показал в 2006 году, придя двадцатым в гигантском слаломе.
Прорыв, однако, случился двумя годами позже — 29 ноября 2008 года спортсмен сумел подняться с шестьдесят пятого на второе место. Двумя неделями позже Янка впервые выиграл в соревнованиях Кубка — ему покорилась трасса гигантского слалома, месяцем позже спортсмен одержал победу в суперкомбинации. В том же сезоне на своем первом взрослом первенстве планеты Карло взял золото в гигантском слаломе и бронзу в скоростном спуске на чемпионате мира 2009 года в Валь-д’Изере.
С 4 по 6 декабря 2009 года на этапе Кубка мира в американском Бивер-Крике Янка добился редкого достижения: за 3 дня сумел выиграть сразу суперкомбинацию, гигантский слалом и скоростной спуск. Карло стал первым горнолыжником, сумевшим выиграть сразу три гонки Кубка мира за одни выходные, со времен Хермана Майера в сезоне 1999/00. По итогам сезона Янка победил в зачете по комбинации.
23 февраля 2010 года Карло выиграл золотую медаль в соревнованиях по гигантскому слалому на зимней Олимпиаде в Ванкувере. По итогам сезона Янка выиграл общий зачет Кубка мира, став четвёртым швейцарцем в истории, кому удалось достичь этой вершины.
Сезон 2010/11 для обладателя Большого хрустального глобуса 2010 года состоял из взлетов и падений. 23 февраля швейцарскому горнолыжнику была сделана операция на сердце в связи с участившимися симптомами сердечной аритмии.
Спустя всего 5 дней после операции Янка встал на лыжи, а через 10 выиграл гигантский слалом на этапе Кубка мира в Краньска-Гора, одержав свою первую победу в сезоне.
Одержал 11 побед на этапах Кубка мира (четыре в гигантском слаломе, три в скоростном спуске, три в суперкомбинации и одна в супергиганте).