Se entiende que la prueba por contradicción es una forma de demostración utilizada en lógica proposicional del tipo indirecta y esta sigue los siguientes pasos cuando es aplicada para demostrar alguna afirmación:

1. Se quiere demostrar que una afirmación P es verdadera.
2. Se asume que P es falsa.
3. Se muestran las consecuencias del hecho de que P sea falsa.
4. Se llega a un absurdo o imposibilidad.
5. Como la afirmación P puede ser verdadera o falsa, y ya se demostró que no puede ser falsa ya que esto conlleva a incongruencias matemáticas, se prueba así que P debe ser verdadera.

${\displaystyle Probar:A}$

${\displaystyle Premisas\left\{{\begin{matrix}\left(\sim B\vee C\right)\rightarrow A&\\B\rightarrow D&\\C\vee \sim D\end{matrix}}\right.}$

Como nos muestra Bruce Ikenaga, en lógica se usa la siguiente notación para explicar la prueba por contradicción:^[1]​

1. ${\displaystyle \sim A}$
2. ${\displaystyle \left(\sim B\vee C\right)\rightarrow A}$
3. ${\displaystyle \sim \left(\sim B\vee C\right)}$
4. ${\displaystyle B\wedge \sim C}$
5. ${\displaystyle B}$
6. ${\displaystyle \sim C}$
7. ${\displaystyle B\rightarrow D}$
8. ${\displaystyle D}$
9. ${\displaystyle C\vee \sim D}$
10. ${\displaystyle C}$
11. ${\displaystyle C\wedge \sim C}$
12. ${\displaystyle A}$

Como afirman Körner y Neale en su artículo: al ser una ciencia exacta, el concepto de demostración es clave en matemáticas.^[2]​ Existen una gran variedad de formas utilizadas para probar alguna proposición, corolario, teorema, etc. en esta ciencia. Generalmente, las pruebas utilizadas en matemáticas son de dos tipos: directas e indirectas. En las directas, se empieza con una afirmación P y hay que demostrar que a partir de esa afirmación, utilizando principios ya demostrados, se llega a una condición Q. Algunas de las pruebas directas más comunes son:

• Prueba por inducción matemática: Una de las pruebas más sólidas que existen en las matemáticas aplicadas. Se comienza con una base de inducción y se termina con una hipótesis de inducción.
• Prueba por contraejemplo: En este caso, se busca un ejemplo específico que cumpla con una afirmación P, pero no con la condición Q.
• Prueba por exhaución: La condición Q se divide en un número finito de casos, al demostrar todos los casos se demuestra Q.^[3]​

Por otro lado existen las pruebas indirectas, las cuales empiezan con una afirmación P y se quiere llegar a la condición Q. Pero en este tipo de pruebas se empieza asumiendo que P implica no Q y a partir de ahí se desarrolla hasta llegar a una imposibilidad, demostrando entonces que P sí implica Q. Los 2 tipos de pruebas indirectas más comunes son: prueba por contrapositivo y por contradicción.

Con base en lo anterior, cabe destacar que la prueba por contradicción es significativamente diferente de las formas más tradicionales de demostrar afirmaciones, ya que parte de que lo que queremos probar es falso, aun cuando la lógica dicta que no debería ser así.Siempre es más recomendable demostrar una afirmación con una prueba directa que con una prueba indirecta como la de contradicción, ya que las directas son más sólidas. Sin embargo, hay casos donde no se pueden emplear pruebas directas, como en el siguiente ejemplo:

Proposición: Demostrar que √2 es un número irracional. (Nota: Un número irracional es aquel que no se puede escribir como cociente de 2 números enteros.)

Al analizar por un momento el problema, una prueba directa de esta proposición implicaría que se probaran enteros p y q, hasta encontrarse una pareja (p, q) que cumpliera con que: 2=p²/q². El problema es que existen infinitos números enteros, por lo que es imposible tratar de resolver este problema a través de una prueba directa. Siguiendo los pasos establecidos anteriormente, vamos a demostrar la proposición dada por contradicción:

• Paso 1: Asumimos que la proposición es falsa, es decir, que es racional.
• Paso 2: Se hace el siguiente razonamiento:

${\displaystyle {\sqrt {2}}=p/q}$

Donde al menos uno de los 2 es impar. Sin pérdida de generalidad, asumir que q es impar.

${\displaystyle 2=p^{2}/q^{2}}$

${\displaystyle 2q^{2}=p^{2}}$

Entonces ${\displaystyle p^{2}}$ es divisible entre 2, lo cual implica que p también lo es. Escribimos ${\displaystyle p=2r}$.

${\displaystyle 2q^{2}=p^{2}=\left(2r\right)^{2}=4r^{2}}$

Simplificando tenemos:

${\displaystyle q^{2}=\left(2r\right)^{2}}$

• Paso 3: Entonces ${\displaystyle q^{2}}$ es par y por tanto q también lo es. Pero q es impar, lo que nos lleva a una contradicción ya que q no puede ser par e impar al mismo tiempo.
• Paso 4: Como demostramos que si ${\displaystyle {\sqrt {2}}}$ es racional se llega a una incongruencia, ${\displaystyle {\sqrt {2}}}$ no puede ser racional. Siendo entonces irracional ya que un número solo puede ser racional o irracional.

Reductio ad absurdum (en latín, que en español significa “reducción al absurdo”)^[4]​ es sin lugar a dudas uno de los argumentos más utilizados cuando se utiliza la prueba por contradicción. En el ejemplo dado anteriormente se utilizó este argumento para demostrar que la raíz cuadrada de dos es un número irracional. La reducción al absurdo empezó asumiendo que uno de los dos enteros es par y acabó cuando se mostró que el denominador era par e impar al mismo tiempo, lo cual es un absurdo. A continuación se muestra una definición formal de este término dada por la Internet Encyclopedia of Philosophy:^[5]​

Reducción al absurdo es un modo de argumentación que trata de establecer un argumento mediante la derivación de un absurdo de su negación, por lo tanto el argumento de que una tesis debe ser aceptada debido a que su rechazo sería insostenible. Es un estilo de razonamiento que se ha empleado a lo largo de la historia de las matemáticas y la filosofía a partir de la antigüedad clásica.

Un ejemplo clásico del uso de este argumento al demostrar una proposición por contradicción es la siguiente:

Proposición: Demostrar que la suma de un número racional y un número irracional es otro irracional. En este caso, al utilizar el reductio ad absurdum, se llega a que un número es racional e irracional al mismo tiempo, lo cual es un absurdo y así se demuestra la proposición. Aunque el argumento reductio ad absurdum es una herramienta vital de las pruebas por contradicción es importante notar que prueba por contradicción no implica reductio ad absurdum ya que en una prueba por contradicción se llega a una imposibilidad. Un absurdo es un tipo de imposibilidad pero no es la única, como se verá más adelante.

Como se mencionó anteriormente se analizará un método que se basa en la prueba por contradicción sin llegar a un absurdo pero aun así llegando a una imposibilidad. El método se llama descenso infinito y fue descubierto por el matemático y abogado francés Pierre de Fermat alrededor de 1640,^[6]​ cuando lo usó por primera vez para demostrar el caso n=4 de uno de los teoremas más importantes y conocidos de las matemáticas puras: el último teorema de Fermat.

El método se basa en 2 herramientas muy importantes:

• La prueba por contradicción.
• El orden de los números naturales.

El descenso infinito es una herramienta de demostración que funciona de la siguiente forma:

1. La idea es llegar a una imposibilidad.
2. Se comienza con 2 propiedades de los números naturales muy importantes: que llevan un orden y que tienen un límite inferior, es decir, empiezan de cero.
3. Conociendo lo anterior, la idea es demostrar que si ciertas propiedades o relaciones existen en un grupo de números naturales, entonces existe un procedimiento a seguir que generará otro grupo de números con las mismas propiedades, excepto que tienen un valor absoluto menor que sus equivalentes del grupo precedente, creando un descenso infinito.
4. Pero se sabe que no puede existir un descenso infinito en los números naturales ya que existe el límite inferior de cero, creando una contradicción.

A continuación se pone de ejemplo la demostración del caso n=4 del último teorema de Fermat para dar una mejor idea de cómo funciona este método basado en la prueba por contradicción:

Teorema. No existen enteros x, y, z que satisfagan la siguiente ecuación diofántica: z⁴+y⁴=x⁴

Demostración:

• El primer paso es reescribir la ecuación de la siguiente forma: (z²)²+y⁴=x⁴
• Notar que (z, y², x²) es una Terna Pitagórica Primitiva (TPP). Esto se asume ya que si no fueran coprimos, simplemente se divide toda la terna entre el MCD creando una terma primitiva.
• Usando la fórmula de Euclides para generar TPP’s, sabemos que: x²=a²+b² y que y²=a²-b² o y²=2ab.
• Asumiendo que y²=a²-b² tenemos que x²(y²)=a⁴-b⁴=(xy)². Notar que hemos encontrado entonces otra TPP (xy, a², b²) menor que la original (z, y², x²), creando un descenso infinito lo cual es imposible. Por lo tanto , y²≠a²-b².
• Asumiendo entonces que y²=2ab con a>b. Sin pérdida de generalidad, asumamos que a es par y b es impar. Tenemos lo siguiente:

x²=a²+b²

x=c²+d²

a=2cd

b=c²-d²

Con c>d y coprimos

y²=2ab=2(2cd)(c²-d²)

y dividiendo ambos lados por 4 se tiene:

y²/4=(cd)(c²-d²)=(y/2)²

• Nos podemos dar cuenta que el producto de c, d y c²–d² es un cuadrado perfecto, por lo que cada uno de ellos es un cuadrado perfecto:

c²=e²

d²=f²

c²–d²=g²

• Remplazando c y d por e y f respectivamente en la última ecuación tenemos: (e²)²-(f²)²=g²=e⁴-f⁴
• Hemos encontrado otra TPP (g, f², e²) menor que la original (z, y², x²), creando un descenso infinito, lo cual es imposible. Por lo tanto, podemos concluir afirmando que la ecuación Diofántica z⁴+y⁴=x⁴ no tiene soluciones enteras. Q.E.D.

Otros ejemplos de problemas donde se utiliza la prueba por contradicción son los siguientes:

1. Proposición.- Demuestre que n⁴ + 4ⁿ nunca es primo para n>1: Se divide el problema en 2 casos, para n par y para n impar. El primer caso es bastante obvio ya que ambos sumandos son múltiplos de 16, y por tanto se llega a una contradicción. El segundo caso es mucho más complejo y requiere un dominio en leyes de los exponentes y factorización. Al final, se llega a una factorización de n⁴ + 4ⁿ, siendo esto una contradicción.

2. Teorema Cataldi-Fermat.- Si 2ⁿ-1 es primo, entonces n es primo: Se empieza asumiendo que n es compuesto y al ser compuesto 2ⁿ-1 se puede factorizar en 2 términos, ambos mayores que uno, por lo que se llega a una contradicción con la hipótesis.

3. Proposición.- ¿Puede un número de 600 seises y algunos ceros ser un cuadrado?: En este problema se utiliza el método de descenso infinito junto con la aritmética modular para demostrar que no existe tal número.

• Prueba (ciencia)
• Reducción al absurdo
• Prueba por exhaución
• Teoría de la demostración