Гипотеза Ме́ртенса — отвергнутая математическая гипотеза, согласно которой функция Мертенса ${\displaystyle M(n)}$ ограничена ${\displaystyle \pm {\sqrt {n}}}$. Выдвинута Стилтьесом в 1885 году в письме Эрмиту^[1], независимо предложена Францем Мертенсом^[англ.] в 1897 году. Особый интерес к гипотезе был связан с тем, что из её выполнения следует верность гипотезы Римана➤.

Несмотря на большое количество интуитивных подтверждений и вычислительных предпосылок, гипотеза была опровергнута в 1985 году Анджеем Одлыжко^[англ.] и Германом те Риле^[англ.].

Стилтьес утверждал в 1885 году, что доказал более слабое утверждение: ${\displaystyle m(n):=M(n)/{\sqrt {n}}}$ ограничена, но не опубликовал доказательство^[2]. (В терминах ${\displaystyle m(n)}$ предположение Мертенса означало, что ${\displaystyle -1<m(n)<1}$.)

Одлыжко и те Риле для доказательства ложности гипотезы в 1983 году использовали алгоритм Ленстры — Ленстры — Ловаса^[3][4], получив:

${\displaystyle \liminf m(n)<-1{,}009}$ и ${\displaystyle \limsup m(n)>1{,}06}$.

Позже было доказано, что первый контрпример встречается до ${\displaystyle e^{3{,}21\times 10^{64}}\approx 10^{1{,}39\times 10^{64}}}$^[5], но после 10^16[6]. С тех пор верхняя граница была понижена до ${\displaystyle e^{1{,}59\times 10^{40}}}$^[7] или приблизительно ${\displaystyle 10^{6{,}91\times 10^{39}}}$, при этом точный контрпример по состоянию на 2023 год неизвестен.

Закон повторного логарифма утверждает, что если функцию Мёбиуса ${\displaystyle \mu }$ в определении функции Мертенса заменить случайной последовательностью из +1 и −1, тогда порядок роста частичных сумм первых ${\displaystyle \mu }$ чисел (с вероятностью 1) составляет около ${\displaystyle {\sqrt {n\log \log n}}}$, из чего можно полагать порядок роста ${\displaystyle m(n)}$ приблизительно равным ${\displaystyle {\sqrt {\log \log n}}}$. Истинный порядок роста может быть несколько меньше: в начале 1990-х годов предположено^[8], что порядок роста ${\displaystyle m(n)}$ равен ${\displaystyle (\log \log \log n)^{5/4}}$, что нашло в 2004 году также эвристические подтверждения (основанные на выполнении гипотезы Римана и некоторых предположениях об усреднённом поведении нулей ${\displaystyle \zeta }$-функции Римана)^[8].

В 1979 году^[9] найдено наибольшее известное значение ${\displaystyle m(n)\approx 0{,}570591}$ для ${\displaystyle M(7766842813)=50286}$, а в 2011 году вычислено наибольшее известное отрицательное значение ${\displaystyle m(n)\approx -0{,}585768}$ для ${\displaystyle M(11609864264058592345)=-1995900927}$^[10]. В 2016 году вычислены ${\displaystyle M(n)}$ для каждого ${\displaystyle n\leqslant 10^{16}}$, но бо́льшие значения ${\displaystyle m(n)}$ не найдены^[6].

В 2006 году улучшена верхняя граница и показано, что существует бесконечно много значений ${\displaystyle n}$, для которых ${\displaystyle m(n)>1{,}2184}$, но без нахождения особых значений для таких ${\displaystyle n}$^[11]. В 2016 году установлено, что:

${\displaystyle \liminf m(n)<-1{,}837625}$ и ${\displaystyle \limsup m(n)>1{,}826054}$.

Связь с гипотезой Римана основана на рядах Дирихле для функции, обратной римановой дзета-функции:

${\displaystyle {\frac {1}{\zeta (s)}}=\sum _{n=1}^{\infty }{\frac {\mu (n)}{n^{s}}}}$

в области ${\displaystyle {\mathcal {Re}}(s)>1}$. Ряд может быть переписан как интеграл Стилтьеса:

${\displaystyle {\frac {1}{\zeta (s)}}=\int _{0}^{\infty }x^{-s}dM(x)}$,

что после интегрирования по частям даёт функцию, обратную дзета-функции — преобразование Меллина:

${\displaystyle {\frac {1}{s\zeta (s)}}=\left\{{\mathcal {M}}M\right\}(-s)=\int _{0}^{\infty }x^{-s}M(x)\,{\frac {dx}{x}}}$.

Используя теорему обратного преобразования Меллина^[англ.], ${\displaystyle M}$ выражается через ${\displaystyle {\tfrac {1}{\zeta }}}$ как:

${\displaystyle M(x)={\frac {1}{2\pi i}}\int _{\sigma -i\infty }^{\sigma +i\infty }{\frac {x^{s}}{s\zeta (s)}}\,ds}$,

что верно для ${\displaystyle 1<\sigma <2}$, и верно для ${\displaystyle {\tfrac {1}{2}}<\sigma <2}$ согласно гипотезе Римана. Из этого следует, что интеграл в преобразовании Меллина должен быть сходящимся, и потому функция ${\displaystyle M(x)}$ должна иметь порядок роста ${\displaystyle O(x^{e})}$ для каждой степени экспоненты ${\displaystyle e}$, большей, чем ${\displaystyle {\tfrac {1}{2}}}$. Таким образом:

${\displaystyle M(x)=O{\Big (}x^{{\tfrac {1}{2}}+\epsilon }{\Big )}}$

для всех положительных ${\displaystyle \epsilon }$ эквивалентно гипотезе Римана, что следовало бы из более сильной гипотезы Мертенса, а из гипотезы Стилтьеса следует, что:

${\displaystyle M(x)=O{\Big (}x^{\tfrac {1}{2}}{\Big )}}$.

• Kotnik, Tadej; te Riele, Herman (2006). "The Mertens Conjecture Revisited". In Hess, Florian (ed.). Algorithmic number theory. 7th international symposium, ANTS-VII, Berlin, Germany, July 23--28, 2006. Proceedings. Lecture Notes in Computer Science. Vol. 4076. Berlin: Springer-Verlag. pp. 156—167. doi:10.1007/11792086_12. ISBN 3-540-36075-1. Zbl 1143.11345.
• Kotnik, T.; van de Lune, J. (2004). "On the order of the Mertens function" (PDF). Experimental Mathematics. 13 (4): 473—481. doi:10.1080/10586458.2004.10504556. S2CID 2093469. Архивировано из оригинала (PDF) 3 апреля 2007.
• Mertens, F. (1897), "Über eine zahlentheoretische Funktion", Sitzungsberichte der Kaiserlichen Akademie der Wissenschaften, Mathematisch-Naturwissenschaftliche Klasse, Abteilung 2a, 106: 761—830
• Odlyzko, A. M.; te Riele, H. J. J. (1985), "Disproof of the Mertens conjecture" (PDF), Journal für die reine und angewandte Mathematik, 1985 (357): 138—160, doi:10.1515/crll.1985.357.138, ISSN 0075-4102, MR 0783538, S2CID 13016831, Zbl 0544.10047
• Pintz, J. (1987). "An effective disproof of the Mertens conjecture" (PDF). Astérisque. 147—148: 325—333. Zbl 0623.10031.
• Sándor, József; Mitrinović, Dragoslav S.; Crstici, Borislav, eds. (2006), Handbook of number theory I, Dordrecht: Springer-Verlag, pp. 187—189, ISBN 1-4020-4215-9, Zbl 1151.11300
• Stieltjes, T. J. (1905), "Lettre a Hermite de 11 juillet 1885, Lettre #79", in Baillaud, B.; Bourget, H. (eds.), Correspondance d'Hermite et Stieltjes, Paris: Gauthier—Villars, pp. 160—164

• Weisstein, Eric W. Mertens conjecture (англ.) на сайте Wolfram MathWorld.

• A Prime Surprise (Mertens Conjecture)  (неопр.). Numberphile (23 января 2020). Архивировано 21 декабря 2021 года.