«Before the Party's Over» er komponert og skrevet av Mustii selv, sammen med Pierre Dumoulin, Benoit Leclercq, Nina Sampermans, Arianna D'amato, Alloysius Lloyd, og Charlotte Clark.[2] Sammen med artisten ble sangen internt valgt av kringkasteren Radio-télévision belge de la Communauté française (RTBF) til å representere Belgia i Eurovision Song Contest 2024. Artistkunngjøringen ble gjort 30. august 2024, mens «Before the Party's Over» først ble kunngjort i februar 2024.[3]
Sangen hadde premiere 20. februar 2024 på det belgiske radioprogrammet Le 8/9.[4][2] Senere samme dag ble sangen og musikkvideoen sluppet på Eurovision Song ContestsYouTube-kanal.
«Before the Party's Over» deltok i semifinale 2 torsdag 9. mai 2024. Der endte den på 13. plass av 16 bidrag, og kvalifiserte seg ikke til finalen lørdag 11. mai.[5]