В войне против турок в 1787—1791 годах Коловрат-Краковский заслужил себе чин полковника19-го пехотного полкаАльвинци, и отличился при штурме Белграда, во время которого ворвался в город, завладел турецкой артиллерией и принудил цитадель к сдаче, в этом сражении был ранен. Произведённый за это отличие 9 октября 1789 года в чин генерал-майора, Коловрат-Краковский был назначен командиром бригады и переведён в наблюдательный корпус князя Гогенлоэ на прусской границе. С января 1792 года перешёл в подчинение генерал-директора артиллерии фельдмаршалаКолоредо и стал командиром артиллерийской бригады.
В 1803 году Иоганн Карл фон Коловрат-Краковский был назначен командующим Богемской армией.
Сражался с французами в кампании 1805 года. В сражении при Аустерлице его корпус оказался на острие главного удара французской армии и был почти полностью уничтожен.
Произведённый 12 сентября 1809 года в фельдмаршалы, он, по расстроенному здоровью, не смог принять участие в дальнейших военных действиях. В Шестую коалиционную войну он занимался организацией госпиталей и оказания помощи раненым солдатам как союзников, так и их противников.