Nelson Vails naît le à New York. Il grandit à Harlem, où il est le plus jeune d'une famille de dix enfants. Il dispute et remporte ses premières courses cyclistes à Central Park et travaille comme coursier à vélo durant sa jeunesse.
En 1981, il obtient sa première sélection en équipe des États-Unis. Aux Jeux panaméricains de 1983 à Caracas, au Venezuela, il remporte la médaille d'or en vitesse individuelle. L'année suivante, il participe aux Jeux olympiques à Los Angeles. Il s'y incline en finale du tournoi de vitesse individuelle face à son compatriote Mark Gorski. Il est le premier Afro-Américain à décrocher une médaille olympique en cyclisme. Cette année-là il est champion des États-Unis de vitesse et du tandem. Il conserve son titre dans cette discipline les deux années suivantes. En 1985, associé à Leslie Darcewski, il est vice-champion du monde de tandem.
À la fin des années 1980 et au début des années 1990, il dispute des courses de six jours en Europe puis, de 1990 à 1995, des compétitions de keirin au Japon.
Après la fin de sa carrière de coureur en 1995 il devient commentateur de courses cyclistes à la télévision.
