In 1795 diende hij aan de Rijn en het jaar daarop kreeg hij het gezag over alle Oostenrijkse troepen aan die rivier. Door zijn optreden tijdens de operaties tegen de Fransen Jourdan en Moreau in 1796 kreeg hij erkenning als een van de beste generaals in Europa.
Napoleontische oorlogen
In 1797 werd hij uitgezonden om het oprukken van generaal Bonaparte in Italië tegen te houden; hij leidde de terugtocht van de overwonnen Oostenrijkers met de hoogste bekwaamheid. In de campagne van 1799 kwam hij weer tegenover Jourdan te staan, maar hij versloeg de Fransman in de gevechten te Osterach en Stokasch. Dit werd gevolgd door zijn succesvolle invasie van Zwitserland en het verslaan van de Fransman Masséna tijdens de Eerste Slag bij Zürich, waarna hij Duitsland weer betrad en de Fransen over de Rijn dreef.
Vanwege zijn slechte gezondheid moest hij zich terugtrekken naar Bohemen. Maar al snel werd hij weer opgeroepen om de opmars van de Franse troepen naar Wenen te stuiten. Het resultaat van de Slag bij Hohenlinden (1800) had dit echter bij voorbaat onmogelijk gemaakt en de aartshertog zag zich gedwongen de wapenstilstand van Steyr te sluiten. Zijn populariteit was nu zo groot dat de parlementszitting van Regensburg besloot te zijner ere een standbeeld op te richten en hem de titel van redder van zijn land te geven, maar Karel weigerde beide onderscheidingen.
In 1806 benoemde keizer Frans II van Oostenrijk Karel tot opperbevelhebber van het Oostenrijks leger en tot hoofd van de krijgsraad. Karel reorganiseerde het leger en zette de aanval op de Franse troepen in. In eerste instantie behaalde hij veel successen, maar die werden overschaduwd door de latere nederlagen bij Abensberg, Landshut en Eckmühl. Daarna won de aartshertog de grote Slag bij Aspern-Eßling. Niet lang daarna vocht hij in de Slag bij Wagram, waarin de Oostenrijkers werden verslagen. In deze laatste twee gevechten had Napoleon meer dan 50.000 man verloren. Aan het eind van de campagne gaf de aartshertog al zijn militaire functies op.
Karel trok zich voor de rest van zijn leven terug uit militaire en politieke zaken, behalve een korte tijd in 1815, toen was hij namelijk gouverneur van Mainz. In 1822 volgde hij zijn adoptievader, Albert Casimir van Saksen-Teschen, op als hertog van Teschen.
Karel stierf op 30 april 1847 te Wenen. Hij werd aldaar begraven in tombe 122 van de Kapuzinergruft. In 1860 werd op de Heldenplatz te Wenen een ruiterstandbeeld van hem geplaatst.