Waller studierte Physik an der Universität Uppsala mit dem Lizenziats-Abschluss 1922 und der Promotion 1925 (Theoretische Studien zur Interferenz- und Dispersionstheorie der Röntgenstrahlen). Danach war er dort Dozent und ab 1934 bis zu seiner Emeritierung 1964 Professor für Mechanik und Mathematische Physik.
Er ist vor allem bekannt für den Debye-Waller-Faktor zum Beispiel in der Röntgenkristallographie (gemeinsam mit Peter Debye), der die thermische Wirkung von Gitterschwingungen auf die Streuung beschreibt (damals war die quantenmechanische Theorie der Gitterschwingungen insbesondere von Max Born und Theodore von Kármán entwickelt worden). Er stammte aus seiner Dissertation 1925.