本作の表題曲「TAKING THEM DOWN」は、ヘヴィなギターとシンセサウンドが印象的な楽曲に仕上げられている。ちなみにこの曲の制作には、Julian（MAKE MY DAY）がコンポーザーとして参加している。HYDEは本作発売当時に受けたインタビューの中で、Julianらとの楽曲制作を振り返り「Julianが"HYDEさんに曲を書きました"と2021年に原型となる曲を持ってきてくれて。それをAliとhicoを交えてああだこうだ言いながら制作していきました。自分が歌ううえでキャッチーであることは常に大切にしてるんだけど、Julianが作ってきたデモはちょっとヘヴィメタル色が強かったので、シンセ系の音を入れたり、hicoにメロを加えてもらったり、それぞれのよさを持ち寄って作り上げましたね。なぜか僕に"この曲を歌ってほしい"と言ってきてくれるのは、メタル系の人が多いんです（笑）。僕が歌うことでメタルシーン以外から見られるだろうし、バンドではできないアプローチができるというのが面白いのかな？ Julianの場合は自分のバンドもやってるから、僕としてはそっちに負けたくないという気持ちもありました。僕もいい曲じゃないと採用したくないから、一緒にブラッシュアップしていったし、お互いにいい刺激になったと思います[2]」と述べている。また、HYDEはこの曲の歌詞に関して「置かれている状況や人生観を反映した[2]」と示唆している。