Historiquement, le précurseur de cette université était la division de musique de l'université d'art de Gia Dinh. En 1956, cette division est séparée de l'université pour devenir école nationale de musique de Saigon.
Quand l'enseignement du théâtre a été ajouté au programme d'éducation de l'école, celle-ci a été renommée « École nationale de musique et de théâtre de Saïgon » avec 2 sections principales d'enseignement : musique (musique européenne et musique nationale vietnamienne, ou musique traditionnelle vietnamienne) et arts dramatiques (théâtre traditionnel vietnamien).
Après le , l'école a pris le nom d'école nationale de musique de ville de Hô Chi Minh. En 1976, la division des arts dramatiques a été séparée pour fonder l'« École de théâtre de Hô Chi Minh-Ville », aujourd'hui devenue l'École de théâtre et de cinéma de Hô Chi Minh-Ville. De 1978, le programme de danse a été ajouté aux enseignements de l'école.
Le , l'école a été promue au rang d'université par le gouvernement vietnamien et renommée « Conservatoire de Hô Chi Minh-Ville ».
