Carballo debuttò nel 1993 con il Wilstermann, squadra della sua città natale Cochabamba, dopo aver passato il biennio 1991-1992 con il Don Bosco.[2] In precedenza aveva giocato per 10 anni nella Escuela de Fútbol Enrique Happ.[2] Il tecnico del Wilstermann, Raúl Pino, dopo alcuni giorni di allenamenti decise di includerlo in prima squadra, impiegandolo come titolare: nel 1994 giunse al secondo posto in campionato e si qualificò pertanto alla Coppa Libertadores 1995, sua prima volta in una competizione internazionale per club. Carballo fu schierato con continuità, e nel 2000 ottenne il suo primo titolo nazionale, giocando anche due delle tre partite della finale (ritorno e spareggio).[3][4] Tornò dunque a disputare la Coppa Libertadores, e nel campionato 2002 passò al The Strongest, formazione della capitale La Paz. Nel 2003 vinse entrambe le fasi del campionato, Apertura e Clausura, aggiungendo così due titoli al suo palmarès e raggiungendo nuovamente la Coppa Libertadores. Nello stesso anno partecipò alla Copa Sudamericana.[2] Nel 2005 fece ritorno al Wilstermann, con cui ottenne il Segundo Torneo 2006. Ha seguito il club anche in seguito alla retrocessione in Liga Nacional B.[5] È il giocatore con il maggior numero di presenze nella storia del Wilstermann.[6]
