Отсчёт музыкальной карьеры Нельсона начинается с 1956 года. На первых порах его собственные записи отвергались звукозаписывающими компаниями из-за немодного, слишком «сырого» звучания. Поэтому Нельсон часто отдавал свои новые песни другим исполнителям, как, например, ставшую впоследствии едва ли не самой популярной в истории кантри, балладу «Crazy» Пэтси Клайн, и «Night Life» Рэя Прайса, которую называют наиболее перепеваемой кантри-мелодией в истории жанра.
Продвижению собственной карьеры Нельсона мешали пристрастие к алкоголю, курение марихуаны и то, что в общественных местах он зачастую носил нелицензированное оружие. Устав от проблем с законом, он в 1965 году переселился в техасский Остин, который был в те времена известен своими свободными нравами. Тут его музыка приобрела нестандартное звучание, впитав влияния рок-н-ролла, вестерн-свинга, джаза и фолк-рока. Сам певец пристрастился к утренним моционам и стал вести здоровый образ жизни.
В начале 1970-х Нельсон и Вэйлон Дженнингс отрастили длинные волосы, бороды и надели тёртые джинсы, тем самым объявив войну боссам кантри-индустрии, в которой тогда господствовали лощёные эстрадные исполнители в пиджаках безупречного покроя. В ходе так называемого outlaw movement (аутло-кантри) они отстаивали возвращение музыки кантри к своим ковбойским истокам, пытались вернуть жанру потерянную энергетику. Одним из основных вех этого направления был альбом Нельсона «Red Headed Stranger» (1975, «Рыжеволосый незнакомец»). Самыми успешными за всю его карьеру стали вышедшие в этот период синглы «Blue Eyes Crying in the Rain» (1975) и «On the Road Again» (1980).
В 1980-е годах Нельсон стал много сниматься в кино. В музыкальном отношении для него наступила пора дуэтов. Характерный пример — песня «To All the Girls I’ve Loved Before», записанная вместе с Хулио Иглесиасом. Вместе со старым товарищем Дженнингсом, Крисом Кристоферсоном и Джонни Кэшем он создал успешную супергруппу «The Highwaymen». К этому времени исполнитель получил весьма широкое признание за пределами кантри-индустрии. В 1982 году ему была присуждена премия «Грэмми» в престижной номинации «Запись года» (за новую интерпретацию классической песни «Always on My Mind»).
В 1990 году Нельсону пришлось потягаться в суде с налоговой службой, которая обвинила его в систематическом уклонении от уплаты налогов. Поскольку недоимки превысили 16 миллионов долларов, значительная часть имущества певца ушла с молотка. Для погашения задолженности он даже записал особый двойной альбом. По окончании судебной эпопеи Нельсон выпустил в 1993 году альбом дуэтов со звёздами других жанров, среди которых оказались Боб Дилан, Пол Саймон и Шинейд О’Коннор.
Во второй половине 1990-х популярность Нельсона (как и других исполнителей старой школы) стремительно снижалась. Не способствовала улучшению его имиджа и активная борьба престарелого певца за легализацию марихуаны (в одном из ток-шоу он с гордостью объявил, что курил «травку» на крыше Белого дома во время приёма, устроенного там президентом Джимми Картером). Пытаясь привлечь внимание молодого поколения слушателей кантри, Нельсон записал альбом с ярко выраженными вкраплениями регги. В 2006 году он впервые за многие годы вернулся на вершину кантри-чартов, а за год до этого выпустил синглом скандальную песню «Cowboys Are Frequently Secretly Fond of Each Other» (буквально: «Ковбои зачастую тайно влюблены друг в друга»), что является отсылкой к фильму «Горбатая гора».
