À l'âge de 19 ans, en 1996, il commence sa carrière avec la sortie de son premier album sous le label indépendant Intersound[1]. Cependant, il ne se fera connaitre réellement qu'à partir de 2002 avec la sortie de son single The Impossible chez Universal South Records. La chanson se classera troisième du Billboard Hot Country Singles & Tracks (maintenant Hot Country Songs) et sera suivi d'un album de platine Man with a Memory sorti en 2002. De cet album sera également extrait le single Brokenheartsville qui se classera à la première place.
En 2004, Nichols sort son troisième album Revelation ainsi qu'un album de chants de Noël nommé A Traditional Christmas. Son quatrième album studio III sortira en 2005 et sera certifié triple disque d'or. Parmi les singles de cet album, le numéro un Tequila Makes Her Clothes Fall Off. Le cinquième album Real Things, sorti en 2007.
En 2009, Nichols a sorti un nouveau single Believer issu de son futur album Old Things New[2] dont la sortie est prévue pour le mois de septembre.
En 2014, il chante en duo avec Lucy Hale la chanson Red Dress, qui figure dans le nouvel album de celle-ci, Road Between.
