In december 1983 reisden The Smiths voor het eerst naar Amerika voor een nieuwjaarsoptreden in New York. Naast hun gezamenlijke jetlag leed drummer Mike Joyce aan de waterpokken en viel zanger Morrissey tijdens het openingsnummer van het podium af. Om hun tegenslagen te verwerken schreven Morrissey en gitarist Johnny Marr op nieuwjaarsdag Heaven knows I'm miserable now op hun hotelkamer van het Iroquois Hotel in New York. De titel is een woordspeling op het lied Heaven knows I'm missing him now van Sandie Shaw uit 1969.[2]
De opname van de single was de eerste met geluidstechnicus Stephen Street, die daarop werd aangenomen als vaste geluidstechnicus van de groep.[3]