Estudió en la Academia de las Artes de Prusia, y posteriormente trabajó como escenógrafo de teatro, trabajando con directores tan destacados como Max Reinhardt. En 1914 se inició en la industria cinematográfica alemana como director artístico. Más tarde se convirtió en un director de películas como Die Verschwörung zu Genua (1920), Hintertreppe (1921) y Figuras de cera (1923), así como los inusuales cortos animados Rebus-Film.
En 1927 se mudó a Hollywood al aceptar la invitación de Carl Laemmle para convertirse en director de Universal Studios. Leni hizo su debut como director con El legado tenebroso (1927), una adaptación de la obra de teatro de John Willard "El gato y el canario". Esta película tuvo una gran influencia en las clásicas series de terror de Universal, y posteriormente fue rehecha en varias ocasiones, especialmente en 1939, con Bob Hope. Al año siguiente dirigió la superproducción El hombre que ríe, una de las más estilizadas de las últimas películas mudas. Paul Leni murió de sepsis en Los Ángeles en 1929.