Ayant commencé la guitare à 32[2] ou 34 ans[1], il s'est fait connaître à Chicago en étant découvert au début des années 1940 par Lester Melrose de la maison de disque Okeh and Bluebirds Records[1]. Trompé par Melrose, il ne touche quasiment aucun droit d'auteur pour ses enregistrements et pour leurs reprises[1]. Quand il rompt avec Melrose en 1947, celui-ci revend son contrat avec RCA Records, label avec lequel il enregistre fréquemment et remporte un succès important dans la communauté noire[2].
Un peu passé de mode au début des années 1950, lassé par le traitement que lui réserve sa maison de disque, Arthur Crudup dénonce son contrat en 1954[1], retourne au Mississippi puis vit simplement et pauvrement, labourant la journée et jouant le soir[2] notamment dans des juke joints.
Dans les années 1960, avec le retour en grâce de la musique blues dû au british blues boom, et épaulé par le manager Dick Watermann, il reprend la musique avec quatre nouveaux albums et un retour sur scène en 1968[1]. Parallèlement, il tente de faire valoir ses droits. Malgré des années de procès et les efforts de Dick Watermann, il ne parvient pas à récupérer les montants qui lui sont dus[2]. Il meurt dans la misère[2] en 1974 d'une crise cardiaque[2],[1].