Müzeye ismini veren sanat koleksiyoncusu Helene Kröller-Müller, van Gogh'un değerini ilk fark eden kişilerden biriydi ve ressamın birçok eserini toplamıştı. Kröller-Müller koleksiyonunu 1935 Hollanda devletine bağışladı. Henry van de Velde'nin tasarladığı müze 1938'de açıldı. Müzeye 1961'de heykel bahçesi, 1977'de de Wim Quist'in tasarladığı yeni sergi bölümü eklendi.