수론과 조합론에서 뫼비우스 함수(Möbius函數, 영어: Möbius function)는 정수가 제곱 인수가 없는 정수인지 여부에 따라 분류하는 곱셈적 함수이다. 뫼비우스 반전 공식에 사용되며, 리만 가설과도 깊은 관계를 가진다. 기호는 ${\displaystyle \mu (n)}$.

뫼비우스 함수

${\displaystyle \mu \colon \mathbb {Z} ^{+}\to \{-1,0,+1\}}$

는 양의 정수 ${\displaystyle n\in \mathbb {Z} ^{+}}$을 다음과 같이 ${\displaystyle \{-1,0,1\}}$ 가운데 하나에 대응시킨다.

• ${\displaystyle n}$이 ${\displaystyle k}$개의 소인수를 갖는 제곱 인수가 없는 정수라면 ${\displaystyle \mu (n)=(-1)^{k}}$이다. (특수한 경우로, ${\displaystyle n=1}$은 0개의 소인수를 가지므로 ${\displaystyle \mu (1)=1}$이다.)
• ${\displaystyle n}$이 제곱 인수가 없는 정수가 아니라면, ${\displaystyle \mu (n)=0}$이다.

즉, ${\displaystyle n}$의 소인수 분해가

${\displaystyle n=\prod _{p}p^{n_{p}}}$

라면, 뫼비우스 함수는 다음과 같다.

${\displaystyle \mu (n)=(-1)^{\sum _{p}n_{p}}\prod _{p}[n_{p}\leq 1]}$

여기서 ${\displaystyle [\cdots ]}$는 아이버슨 괄호(조건이 참이면 1, 아니면 0)이다.

뫼비우스 함수 ${\displaystyle \mu (n)}$은 또한 1의 원시적 ${\displaystyle n}$제곱근의 합이다.

${\displaystyle \mu (n)=\sum _{\scriptstyle 1\leq k\leq n \atop \scriptstyle \gcd\{k,n\}=1}\exp(2\pi ik/n)}$

그렇기 때문에, 1보다 큰 임의의 자연수 n의 모든 약수에 대해서 ${\displaystyle \mu }$ 함숫값을 계산해서 더하면 언제나 0이 된다는 사실도 알 수 있다. 이 사실은 오일러 ${\displaystyle \phi }$ 함수에 대해, 임의의 자연수 n의 모든 약수의 ${\displaystyle \phi }$ 함숫값의 합은 언제나 n이 된다는 정리와 유사하다.

${\displaystyle \mu }$는 양이 아닌 정수에 대하여 일반적으로 정의하지 않는다.

메르텐스 함수(Mertens函數, 영어: Mertens function)는 뫼비우스 함수의 부분합이다. 즉, 다음과 같은 함수이다.

${\displaystyle M\colon \mathbb {Z} ^{+}\to \mathbb {Z} }$

${\displaystyle M(n)=\sum _{k=1}^{n}\mu (k)}$

뫼비우스 함수는 1의 원시적 ${\displaystyle n}$제곱근의 합이므로, 메르텐스 함수를 다음과 같이 정의할 수도 있다.

${\displaystyle M(n)=\sum _{a\in {\mathcal {F}}_{n}}\exp(2\pi ia)}$

여기서 ${\displaystyle {\mathcal {F}}_{n}}$은 ${\displaystyle n}$차 페리 수열이다.

뫼비우스 함수는 곱셈적 함수이다. 즉, 서로소 정수에 대하여 다음과 같다.

${\displaystyle \mu (ab)=\mu (a)\mu (b)\qquad (\gcd\{a,b\}=1)}$

뫼비우스 함수는 디리클레 합성곱 아래 상수 함수 1의 역원이다.

${\displaystyle (\mu *1)(n)=\sum _{d\mid n}\mu (d)=\delta _{n,1}={\begin{cases}1&n=1\\0&n>1\end{cases}}}$

이 성질 때문에 뫼비우스 함수는 뫼비우스 반전 공식에 등장한다.

뫼비우스 함수의 생성 함수는 다음과 같다.

${\displaystyle \sum _{n=1}^{\infty }\mu (n)x^{n}=x-\sum _{a=2}^{\infty }x^{a}+\sum _{a=2}^{\infty }\sum _{b=2}^{\infty }x^{ab}-\sum _{a=2}^{\infty }\sum _{b=2}^{\infty }\sum _{c=2}^{\infty }x^{abc}+\sum _{a=2}^{\infty }\sum _{b=2}^{\infty }\sum _{c=2}^{\infty }\sum _{d=2}^{\infty }x^{abcd}-\cdots }$

뫼비우스 함수의 람베르트 급수는 다음과 같다.

${\displaystyle \sum _{n=1}^{\infty }{\frac {\mu (n)q^{n}}{1-q^{n}}}=q}$

이는 ${\displaystyle |q|<1}$에 대하여 수렴한다.

뫼비우스 함수의 디리클레 급수는 리만 제타 함수의 역수이다.

${\displaystyle \sum _{n=1}^{\infty }{\frac {\mu (n)}{n^{s}}}={\frac {1}{\zeta (s)}}}$

뫼비우스 함수의 값이 ${\displaystyle \{\pm 1,0\}}$뿐이므로, 메르텐스 함수는 매우 느리게 움직이며 또한 자명하게

${\displaystyle |M(n)|\leq n\qquad \forall n\in \mathbb {Z} ^{+}}$

이다.

소수 정리에 따라 다음이 성립한다.

${\displaystyle \lim _{n\to \infty }{\frac {1}{n}}M(n)=0}$

또한, 다음이 성립한다.

${\displaystyle \lim _{n\to \infty }{\frac {1}{n}}\sum _{k=0}^{n}|\mu (n)|=\prod _{p}\left(1-{{1} \over {p^{2}}}\right)={{1} \over {\zeta (2)}}={{6} \over {\pi ^{2}}}}$

즉, 점근적으로 ${\displaystyle 3/\pi ^{2}\approx 30.4\%}$의 수에 대하여 뫼비우스 함수가 +1이며, ${\displaystyle 3/\pi ^{2}\approx 30.4\%}$의 수에 대하여 뫼비우스 함수가 −1이며, ${\displaystyle 1-6/\pi ^{2}\approx 39.2\%}$의 수에 대하여 뫼비우스 함수가 0이다.

리만 가설은 메르텐스 함수에 대한 다음 조건과 동치이다.

${\displaystyle M(n)=O(x^{1/2+\epsilon })\qquad \forall \epsilon \in \mathbb {R} ^{+}}$

메르텐스 추측(Mertens推測, 영어: Mertens conjecture)은 ${\displaystyle \forall n\in \mathbb {Z} ^{+}\colon |M(n)|\leq {\sqrt {n}}}$라는 명제이다. 이는 오랫동안 난제로 있었으나, 1985년에 거짓으로 판명되었으며, 다음이 성립한다.^{[1][2]:188–189}

${\displaystyle \liminf {\frac {M(n)}{\sqrt {n}}}<-1.009}$

${\displaystyle \limsup {\frac {M(n)}{\sqrt {n}}}>1.06}$

그러나 리만 가설은 현재 (2021년) 미해결 문제이다. 메르텐스 추측보다 더 약하지만 리만 가설보다 더 강한 명제

${\displaystyle M(x)=O(x^{1/2})}$

역시 아직 반증되지 않았으나, 이는 아마 거짓일 것이라고 추측된다.^[1]

뫼비우스 함수에 대하여 다음과 같은 급수가 존재한다.

${\displaystyle \sum _{n=1}^{\infty }(\mu (n)/n)^{2}=15/\pi ^{2}}$

${\displaystyle \sum _{n=1}^{\infty }\mu (n){\frac {\ln n}{n}}=-1}$

처음 몇 개의 양의 정수에 대해서 뫼비우스 함수와 메르텐스 함수의 값은 다음과 같다. (OEIS의 수열 A008683), (OEIS의 수열 A002321)

${\displaystyle n}$	1	2	3	4	5	6	7	8	9	10	11	12
${\displaystyle \mu (n)}$	1	−1	−1	0	−1	1	−1	0	0	1	−1	0
${\displaystyle M(n)}$	1	0	−1	−1	−2	−1	−2	−2	−2	−1	−2	−2

뫼비우스 함수의 값의 그래프는 다음과 같다.

메르텐스 함수의 10⁴까지의 값의 그래프는 다음과 같다.

${\displaystyle \mu (n)=0}$인 정수 ${\displaystyle n}$ (즉, 제곱 인수가 없는 정수가 아닌 수)은 다음과 같다.

4, 8, 9, 12, 16, 18, 20, 24, 25, 27, 28, 32, 36, 40, 44, 45, 48, 49, 50, 52, 54, 56, 60, 63, … (OEIS의 수열 A013929)

레온하르트 오일러는 1748년 저서^[3]에 뫼비우스 함수를 정의하고 암묵적으로 사용하였지만, 자세하게 다루지 않았다.^{[4]:99, Notes to §3.1} 1798년에 카를 프리드리히 가우스는 《산술 연구》(라틴어: Disquisitiones Arithmeticae)^[5]에서 1의 원시 ${\displaystyle n}$거듭제곱근의 합이 ${\displaystyle \mu (n)}$이라는 것을 보였으나, 역시 이 함수를 특별히 연구하지 않았다.

1831년에 아우구스트 페르디난트 뫼비우스는 뫼비우스 함수를 최초로 명시적으로 도입하였다.^{[6][4]:99, Notes to §3.1} 1874년에 프란츠 메르텐스가 최초로 오늘날 사용되는 기호 μ를 사용하였다.^{[7]:53[4]:99, Notes to §3.1}

1885년 7월 11일에 토마스 요아너스 스틸티어스는 샤를 에르미트에게 보낸 편지에서 메르텐스 함수를 최초로 사용하였다. (이 편지는 1905년에 출판되었다.^[8]) 스틸티어스는 ${\displaystyle M(n)=O({\sqrt {n}})}$임을 증명하였다고 주장하였고, 또 메르텐스 추측 (${\displaystyle |M(n)|\leq {\sqrt {n}}}$)을 추측하였다. 스틸티어스는 뫼비우스 함수를 ${\displaystyle f(n)}$으로, 메르텐스 함수를 ${\displaystyle g(n)}$으로 표기하였다. 이 편지에서 스틸티어스는 다음과 같이 적었다.

“	그러나 나는 이 합 ${\displaystyle g(n)=f(1)+f(2)+\cdots +f(n)}$ 에서 ${\displaystyle \pm 1}$ 항들이 서로 충분히 상쇄하여 ${\displaystyle {\tfrac {g(n)}{\sqrt {n}}}}$가 (임의로 큰 ${\displaystyle n}$에 대하여) 항상 상계와 하계를 갖는 것을 발견하였습니다. (아마 이 상계와 하계는 +1과 −1로 잡을 수 있을 것입니다.) […] 이와 같이 이 모든 산술 연구는 이 합 ${\displaystyle f(1)+f(2)+\cdots +f(n)}$에 의존합니다. 나의 증명은 매우 어렵습니다. 나는 연구를 계속하여 이 증명을 더 간략하게 하려고 시도할 것입니다. Or, je trouve que dans la somme ${\displaystyle g(n)=f(1)+f(2)+\cdots +f(n),}$ les termes ${\displaystyle \pm 1}$ se compensent assez bien pour que ${\displaystyle {\tfrac {g(n)}{\sqrt {n}}}}$ reste toujours comprise entre deux limites fixes, quelque grand que soit ${\displaystyle n}$ (probablement on peut prendre pour ces limites +1 et −1). […] Vous voyez que tout dépend d’une recherche arithmétique sur cette somme ${\displaystyle f(1)+f(2)+\cdots +f(n)}$. Ma démonstration est bien pénible; je tâcherai, lorsque je reprendrai ces recherches, de la simplifier encore.	”
	— [8]:162–163

그러나 스틸티어스는 이 "증명"을 출판하지 않았다.

1897년에 프란츠 메르텐스는 메르텐스 함수를 독자적으로 재발견하였고, 메르텐스 추측을 스틸티어스와 독자적으로 추측하였다.^[9]

1985년에 앤드루 마이클 오들리스코(영어: Andrew Michael Odlyzko, 1949~)와 헤르마뉘스 요하너스 요서프 터 릴러(네덜란드어: Hermanus Johannes Joseph te Riele, 1947~)는 메르텐스 추측이 거짓임을 증명하였다.^[1]

• 뫼비우스 반전 공식
• 제곱 인수가 없는 정수
• 근접 대수
• 리만 제타 함수
• 프라임 제타 함수

• “Möbius function”. 《Encyclopedia of Mathematics》 (영어). Springer-Verlag. 2001. ISBN 978-1-55608-010-4. 
• Weisstein, Eric Wolfgang. “Möbius function”. 《Wolfram MathWorld》 (영어). Wolfram Research. 
• Weisstein, Eric Wolfgang. “Mertens function”. 《Wolfram MathWorld》 (영어). Wolfram Research. 
• Weisstein, Eric Wolfgang. “Mertens conjecture”. 《Wolfram MathWorld》 (영어). Wolfram Research. 
• Lipton, R. J. (2011년 2월 23일). “The depth of the Möbius function”. 《Gödel’s Lost Letter and P=NP》 (영어). 
• Tao, Terence (2015년 9월 6일). “Sign patterns of the Möbius and Liouville functions”. 《What’s New》 (영어). 
• “Möbius function”. 《OeisWiki》 (영어). 
• “뫼비우스 뮤 함수”. 《오메가》. ^{[깨진 링크(과거 내용 찾기)]}