Джош — один из пяти детей Паулетты и Пита Смитов. У него есть брат Уолтер и три сестры, Касола, Шанти и Фебе. Джош был известным баскетболистом на школьном уровне, учился в старшей школе Джона Макичерна в Повдер-Спрингз, а последний год обучения провёл в академии Оак Хилл в Виргинии, которая считает одной из лучших баскетбольных школ в США.
В следующих сезонах Смит значительно улучшил свою статистику как в атаке (17,2 очка в среднем за игру в сезоне 2007/2008) и в защите (2,9 блок-шота в сезоне 2006/2007). 8 августа 2008 года Смит, ставший ограниченно свободным агентом, подписал пятилетний контракт на сумму 58 миллионов долларов, предложенный клубом «Мемфис Гриззлис», но «Хокс» предложили Джошу аналогичные условия и оставили его в команде[2].
2 февраля 2010 года в матче против «Оклахома-сити Тандер» Джош Смит сделал свой 1000 блок-шот, став самым молодым игроком в истории лиги, которому удалось достичь этой отметки[3].
22 декабря 2014 года был отчислен «Детройтом».
26 декабря подписал контракт с клубом «Хьюстон Рокетс» до конца сезона[4] . Сумма контракта составила 2,07 миллиона долларов. Смит дебютировал в новой команде уже в тот же вечер в матче против «Мемфис Гриззлис». Выйдя со скамейки запасных Джош провёл на площадке 32 минуты, набрав 21 очко и сделав 3 передачи[5].
22 января 2016 года Смит вместе с правами на Сергея Лищука и денежной компенсацией был обменян обратно в «Хьюстон Рокетс» на права на Маарти Леунина[6].
