Iniciou carreira na equipe da sua cidade, a Sociedade Esportiva São Borja, onde permaneceu de 1992 a 1994.[2] Despontou na segunda divisão gaúcha de 1994, quando marcou 23 gols.[4]
O jogador ganhou destaque atuando no Grêmio[7][8][9][10], clube pelo qual chegou em 1996 e ganhou vários títulos de expressão. Já na primeira rodada do Gauchão de 1996, marcava o primeiro de seus 12 gols naquela temporada com a camisa gremista.[4] Foi um dos grandes destaques do time campeão do Campeonato Gaúcho daquele ano e também faz parte do time que ganha a Recopa Sul-Americana em cima do Independiente, também no primeiro semestre.[5] Ainda em seu primeiro ano pelo Grêmio, Zé Alcino faz com Paulo Nunes a dupla de ataque do time campeão do Brasileirão daquele ano.[5]
No ano seguinte, acaba tendo também grande importância na conquista do título da Copa do Brasil de 1997, onde novamente era um dos destaques do time gremista campeão.[5]
No total, Zé Alcino atuou durante três temporadas no Grêmio, entrando em campo em 185 jogos e marcando 48 gols.[5]
Foi negociado com Nancy, da França[14] e atuou no futebol europeu de 1999 a 2001.[2][15]
Após o desligamento da equipe francesa, foi para o Inter de Xangai, onde jogou com os chineses de 2002 a 2005.[2] Em 2003, foi vice-campeão chinês.[16] Ficou afastado de partidas oficiais em 2005 por ter uma pendência com o clube, onde não recebeu os salários corretamente.[16]
