30 травня 2013 року The Pretty Reckless випустили тизер-трейлер до їх другого студійного альбому «Going to Hell», вказавши, що його реліз відбудеться ближче до кінця 2013 року. 17 червня того ж року, через канал групи на YouTube, випущено новий трек під назвою «Follow Me Down». 1 липня 2013 року The Pretty Reckless випустили двохвилинний уривок пісні «Burn», яка також увійшла в треклист нового альбому.
Прем'єра заголовного треку під назвою «Going to Hell» відбулася 19 вересня 2013 ексклюзивно на REVOLVERMAG.com. У цей же день The Pretty Reckless заявили, що перейшли на новий лейбл, «Razor & Tie». 20 вересня група почала тур Going to Hell Tour на підтримку альбому. На розігріві у The Pretty Reckless були такі гурти, як Heaven's Basement і Louna. Музичне відео до синглу Going to Hell було випущено 16 жовтня на каналі Vevo. 19 листопада відбувся американський реліз пісні Heaven Knows. Треклист, обкладинки CD-диска і вінілу і дата виходу були офіційно анонсовані 21 січня 2014 року. Також стали доступні для попереднього замовлення лімітовані версії альбому. Реліз самого альбому відбувся 12—18 березня 2014 року.
Тейлор розповідає журналу «Hunger» про платівку:
Коли ми записували перший альбом, мені було 15 років, зараз мені 20, тому теми звичайно змінилися. Пісні дуже прості в плані звучання — дві гітари, бас, ударні. Наскільки чесно ми граємо — так це і звучить. Тепер наш альбом — це робота цілої групи.