Der Sohn eines italienischen Vaters wuchs in Wien auf, wo er im Nachwuchs des Rennweger SV 1901 mit dem Fußballspielen begann. Über den AC Viktoria Wien kam er zum SC Germania Schwechat, wo er in den Jahren vor der Einführung des Meisterschaftsbetriebes als Innenstürmer zu den Stützen der Mannschaft gehörte. 1910 trat er dem neu gegründeten Wiener AF bei, wo er nunmehr in der Verteidigung spielte. In der Saison 1913/14 kämpften die Hütteldorfer mit dem Bezirksrivalen SK Rapid Wien um den Meistertitel, welcher am letzten Spieltag im direkten Duell mit einem 1:1 zu Gunsten von Cargnellis Mannschaft entschieden wurde. In der folgenden Saison erreichte der WAF in der durch die Kriegsereignisse unterbrochenen Meisterschaft den zweiten Platz.
Anfang 1920 kehrte er zu den Schwechatern zurück, wo er wieder als Stürmer auflief und gleichzeitig auch das Training sämtlicher Mannschaften übernahm. Die Germania spielte zu dieser Zeit in der zweiten Liga, wo man mit dem SC Hakoah Wien um den Aufstieg kämpfte und schließlich den zweiten Platz belegte.
Nachdem er am Ende seiner Spielerlaufbahn bereits als Spielertrainer tätig gewesen war, schlug er in weiterer Folge die Trainerlaufbahn ein. Zunächst belegte er sportwissenschaftliche Kurse in Deutschland und übernahm danach Trainerpositionen in Köln, Idar und Dortmund[1], ehe er 1924/25 den FC Mühlburg aus Karlsruhe betreute. Es folgte ein Jahr in Rumänien, wo er in Timișoara die beiden Vereine T.A.C. und Politehnica Timișoara trainierte. Im Anschluss daran wechselte er nach Italien, wo er seine gesamte folgende Karriere verbringen sollte.
Nach Einführung der Serie A wechselte Cargnelli zum Zweitligisten US Palermo, wo er drei Saisonen lang tätig war. Es folgten Stationen bei US Foggia und AS Bari, ehe der Österreicher 1934 zu Torino zurückkehrte. Dort belegte die Mannschaft zunächst nur den enttäuschenden 14. Rang, doch schon in der Folgesaison konnte der dritte Platz erreicht werden. Es folgten zwei weitere Jahre in Bari, ehe Cargnelli ein Angebot aus Mailand annahm und zur Ambrosiana wechselte. Dort gewann er mit seiner Mannschaft 1939 den italienischen Cup und wurde im darauf folgenden Jahr mit Spielern wie Pietro Ferraris und Attilio Demaría italienischer Meister.[2]
Während der Kriegsjahre betreute er wieder Torino, wo er einmal Vizemeister wurde und am Aufbau jener Mannschaft beteiligt war, die später als Grande Torino berühmt werden sollte.
Nach Kriegsende folgten noch jeweils zwei Saisonen bei Lazio Rom und Bologna, ehe Cargnelli seine Karriere beim Drittligisten US Alessandria Calcio beendete.
