Après avoir joué à l'université du Tennessee, Ellis est sélectionné au 9e rang de la draft 1983 par les Mavericks de Dallas. Cette période au poste d'arrière shooteur est peu remarquée car il a un faible temps de jeu.
La carrière de Ellis change radicalement après son transfert aux SuperSonics de Seattle contre Al Wood le . Son temps de jeu augmente considérablement, et ses statistiques passent de 7,1 points par match avec les Mavericks à 24,9 points par match avec les SuperSonics. Son apport chez ces derniers est récompensé par le trophée de NBA Most Improved Player en 1987.
Ellis continue ses bonnes performances avec les Sonics jusqu'à la fin des années 1980, ses qualités offensives atteignant leur summum à 27,5 points par match lors de la saison 1988-1989. Les 2 253 points qu'il marque cette saison-là dépassent le record de Spencer Haywood dans l'histoire de la franchise (2 251) et seront battus par le jeune All-Star Kevin Durant lors de la saison 2010. Ellis est sélectionné au NBA All-Star Game lors de cette même saison, et inscrit 27 points pour l'équipe de l'Ouest. Au total, Ellis passe quatre saisons et demie avec les SuperSonics, avant d'être à nouveau transféré, aux Bucks de Milwaukee cette fois, contre Ricky Pierce.
Alors qu'il se retrouve une nouvelle fois sur le banc chez les Bucks, son temps de jeu augmente peu à peu et Ellis apporte de nouveau sa contribution à l'équipe grâce à ses capacités de marqueur. À la fin de la saison 1991-1992, il demande à être transféré aux Spurs de San Antonio contre Tracy Murray. Alors que sa production reste la même, il est plus efficace, tirant avec près de 50 % de réussite dans la raquette contre 46 % avec Milwaukee.
Après avoir signé avec les Nuggets de Denver, puis de retour avec les SuperSonics, il signe avec le Magic d'Orlando (où il ne joue jamais cependant), et repart chez les Bucks, puis s'arrête chez les Hornets de Charlotte, où son rôle se réduit. Les Hornets le transfèrent au Heat de Miami après la saison 1999-2000[1] : mais il regagna un peu de temps de jeu la saison suivante[2].
En tout et pour tout, Ellis dispute 1 209 rencontres pour une moyenne de 15,7 points par match, 3,5 rebonds, 47,9 % de réussite aux tirs, et 40,3 % de réussite à 3-points. Il se situe au troisième rang au total de tirs tentés à 3-points dans l'histoire avec 1 719, et est 12e au pourcentage de réussite à 3-points. Il détient le record NBA pour le plus grand nombre de minutes jouées sur une rencontre, quand il inscrivit 53 points en 69 minutes (sur un total possible de 73) pour les SuperSonics lors d'une défaite 155-154 contre les Bucks après cinq prolongations le .
Ellis est réputé pour son fameux catch and shoot (autrement dit attrape et tire) rapide au poste bas et en sortie d'écran.