La prueba de Lucas-Lehmer consiste en lo siguiente: sea Mp = 2p− 1 el número de Mersenne a testear con pprimo impar. Defínase la sucesión {si} para todo i ≥ 0 según:
Los primeros términos de esta sucesión son 4, 14, 194, 37634, ... (sucesión A003010 en OEIS).
Entonces, Mp es primo si y sólo si
En otro caso, Mp es compuesto. El número sp − 2 mod Mp se llama residuo Lucas–Lehmer de p.
Una implementación que utilice el algoritmo de multiplicación rápida de Schönhage–Strassen, basado a su vez en la transformada rápida de Fourier, da al test de Lucas–Lehmer una complejidad de O(n2 log n log log n), donde n es la longitud del número.