Angel Du$t va ser format el 2013 pel cantant Justice Tripp de Trapped Under Ice,[18] el guitarrista Michael Quick, el baixista Nicholas Heitman, el bateria Daniel Fang de Turnstile i el guitarrista Pat McCrory, que més endavant també s'uniria a Turnstile. El grup va publicar la seva maquetaXtra Raw el 8 d'abril de 2013 a través de React! Records.
El febrer de 2014 el grup va telonejar a Turnstile en la seva gira pels Estats Units d'Amèrica amb Diamond Youth, Turnover i Blind Justice. El 10 de juny de 2014 va publicar el seu àlbum de debut AD amb React! i Reaper Records. El 20 de maig de 2016 va publicar el seu segon àlbum, Rock the Fuck on Forever, a través de Pop Wig Records, el segell propietat de Tripp, Fang i Brendan Yates. Durant l'octubre i novembre de 2016, Angel Dust va fer de teloner de Turnstile en la seva gira de Move Thru Me pels Estats Units juntament amb Big Bite, Krimewatch, Fury i Lock.
El 2017 s'hi va unir al cantant de Turnstile, Brendan Yates, a la bateria. El 15 de març de 2019 Angel Dust va publicar el seu tercer àlbum, Pretty Buff, a través de Roadrunner Records. Aquest àlbum va comportar un notable canvi estilístic, allunyant-se de la música hardcore punk amb balades acústiques i power pop. La major part del contingut líric es va escriure sobre la mort del gos de Tripp, Spike.[19][19] el juny de 2019 el grup es va embarcar en la segona etapa estatunidenca de la gira de Pretty Buff amb el suport de Gouge Away i Giltterer.
El 2020 va publicar l'EPLil House que inclou cançons que després apareixerien al quart àlbum de la banda. El novembre de 2021 va publicar el seu quart àlbum Yak: A Collection of Truck Songs amb Roadrunner Records. L'àlbum incloïa una col·laboració de Tim Armstrong de Rancid.[20]
Angel Dust va fer nombroses gires al llarg del 2022[21][22] com ara una gira pel Regne Unit com a cocap de cartell amb Drug Church,[23] que va continuar de el 2023 per Nord-amèrica al costat de Fiddlehead al febrer.[24] El juliol de 2023 va compartir els detalls del seu cinquè àlbum d'estudi, Brand New Soul[25] i un nou senzill de títol «Space Jam».[26] Amb l'anunci de l'àlbum, Tripp va anunciar oficialment una nova formació incorporant diversos membres que anteriorment havien fet de músics de gira mentre McCrory, Fang i Yates estaven ocupats amb Turnstile: el guitarrista rítmic Steve Marino, el baixista Zechariah Ghosttribe, el bateria Tommy. Cantwell i el guitarrista Daniel Star.[27]