Yoksul bir ailenin çocuğu olarak dünyaya geldi. 21 yaşında Amherst College Kütüphanesi'nde çalışırken DDC'yi (Dewey Decimal Classification=Dewey Onlu Sınıflama Sistemi) geliştirdi. Bu çalışma kütüphanecilikte bir devrimdir. Bu yüzden ona modern kütüphaneciliğin babası denmektedir.
Dewey, 1876'da Amerikan Kütüphane Derneği'nin (American Library Association, ALA) kurulmasına öncülük etti. Library Journal dergisinin de kurucusudur. Ayrıca kütüphanelere birçok standart getirmiş ve bu standartlarda mal ve hizmet üretmiştir. Bu faaliyetleri sonucunda Library Bureau şirketi oluşmuştur. Bu şirket bugün hâlâ faaliyetlerini sürdürmektedir.
Melvil Dewey, kütüphanecilik eğitimi ile de ilgilenmiştir. 1887'de New York'ta Columbia College (şimdiki Columbia Üniversitesi) kütüphanesinde çalışırken, burada ilk kütüphanecilik bölümünü kurmuştur.
Eşi Annie ile birlikte sosyal ve kültürel faaliyetlerde de bulunan Dewey, 26 Aralık 1931'de ölmüştür. Bugüne kadar 22 baskısı yapılan Dewey Onlu Sınıflama Sistemi dünya kütüphanelerinde kullanılan en yaygın sistemdir. Türkçeye 20. baskısı çevrilmiş olan eserden, Türkiye'deki halk kütüphanelerinde de yararlanılmaktadır.
