Il étudie le trombone avec Manual Tizol, son oncle, membre de la fanfare municipale de San Juan. Il utilise un trombone à pistons adopté à Porto Rico. Il se rend aux États-Unis en 1920 et entre en 1929 dans l'orchestre de Duke Ellington où il reste jusqu'en 1944. Il devient alors membre de l'orchestre dirigé par Harry James, tout en continuant à se produire avec Duke Ellington. Il joue également à la télévision avec Frank Sinatra et Nat King Cole. Il a contribué à introduire le type de jazz cubain, dont sa chanson Caravan est devenue un spécimen populaire.