기하학에서 케일리 변환(Cayley變換, 영어: Cayley transform)은 환 위의 사영 직선의 특별한 자기 동형이다. 행렬의 경우, 이는 반대칭 행렬과 직교 행렬 사이의 대응을 정의하며, 복소수체의 경우, 이는 허수축과 단위 원 사이의 대응을 정의한다.

2가 가역원인 환 ${\displaystyle R\ni 2^{-1}}$ 위의 사영 직선

${\displaystyle \mathbb {P} _{R}^{1}=R^{2}/\sim }$

${\displaystyle [x,y]\sim [ax,ay]\qquad \forall x,y,a\in R}$

을 생각하자. 그 위의 케일리 변환은 다음과 같다.

${\displaystyle f\colon [x,y]\mapsto [y-x,x+y]}$

이는 멱등 함수이다.

${\displaystyle f\circ f=1}$

따라서, 이는 ${\displaystyle R}$-사영 직선 위의 전단사 함수를 정의한다.

보다 일반적으로, 임의의 가역원 ${\displaystyle u\in \operatorname {Unit} (R)}$에 대하여,

${\displaystyle f_{u}\colon [x,y]\mapsto [yu-x,yu+x]}$

를 정의할 수 있다. 그 역사상은 다음과 같다.

${\displaystyle f_{u}^{-1}\colon [x,y]\mapsto [y-x,(x+y)u^{-1}]}$

케일리 변환

${\displaystyle f\colon z\mapsto {\frac {1-z}{1+z}}}$

은 리만 구 ${\displaystyle \mathbb {P} _{\mathbb {C} }^{1}=\mathbb {C} \cup \{\infty \}}$ 위의 뫼비우스 변환을 이룬다. 이는 다음과 같은 성질을 갖는다.

z=f(f(z))	f(z)
0	1
i	−i
∞	−1
${\displaystyle \mathbb {i} \mathbb {R} \cup \{\infty \}}$	U(1)
${\displaystyle \mathbb {R} \cup \{\infty \}}$	${\displaystyle \mathbb {R} \cup \{\infty \}}$
${\displaystyle \{z\in \mathbb {C} \colon \operatorname {Re} z\geq 0\}\cup \{\infty \}}$	${\displaystyle \{z\in \mathbb {C} \colon |z|\leq 1\}}$
${\displaystyle \{z\in \mathbb {C} \colon \operatorname {Re} z\leq 0\}\cup \{\infty \}}$	${\displaystyle \{z\in \mathbb {C} \colon |z|\geq 1\}\cup \{\infty \}}$

즉, 이는 허수축과 단위원을 뒤바꾸며, 실수축을 고정시킨다. 또한, 음이 아닌 실수 성분을 가진 반평면은 닫힌 원판에 대응된다.

${\displaystyle n\times n}$ 실수 정사각 행렬의 환 ${\displaystyle \operatorname {Mat} (n;\mathbb {R} )}$ 위의 케일리 변환을 생각하자.

${\displaystyle f\colon \operatorname {Mat} (n;\mathbb {R} )\setminus X\to \operatorname {Mat} (n;\mathbb {R} )}$

${\displaystyle M\mapsto (1-M)(1+M)^{-1}=(1+M)^{-1}(1-M)}$

여기서 ${\displaystyle X}$는 ${\displaystyle 1+M}$이 가역 행렬이 아니게 되는 행렬들의 부분 집합이다.

이 변환에서, 만약 ${\displaystyle M\in {\mathfrak {o}}(n;\mathbb {R} )}$이 반대칭 행렬이라면 (${\displaystyle M^{\top }=-M}$), ${\displaystyle 1+M}$은 항상 가역 행렬이며,

${\displaystyle f(M)^{\top }=(1-M)(1+M)^{-1}=(1-M)^{-1}(1+M)}$

이므로

${\displaystyle f(M)^{\top }f(M)=f(M)f(M)^{\top }=1}$

이 된다. 즉, ${\displaystyle f(M)\in \operatorname {O} (n;\mathbb {R} )}$이며, 특히 ${\displaystyle \det f(M)\in \{\pm 1\}}$이다. 그런데

${\displaystyle \det \circ (f\upharpoonright {\mathfrak {o}}(n;\mathbb {R} ))\colon {\mathfrak {o}}(n;\mathbb {R} )\setminus X\to \{\pm 1\}}$

은 연속 함수이며, 그 정의역 ${\displaystyle {\mathfrak {o}}(n;\mathbb {R} )}$은 연결 공간이다. 따라서 이는 상수 함수이며, 그 값은 ${\displaystyle \det f(0)=1}$이다. 즉, 케일리 변환은 매끄러운 함수

${\displaystyle f\colon {\mathfrak {o}}(n;\mathbb {R} )\to \operatorname {SO} (n;\mathbb {R} )}$

${\displaystyle f\colon 0\mapsto 1}$

를 정의한다. (물론, 이는 전사 함수가 아니다. ${\displaystyle {\mathfrak {o}}(n;\mathbb {R} )}$는 축약 가능 공간이지만 ${\displaystyle \operatorname {SO} (n;\mathbb {R} )}$는 축약 가능 공간이 아니기 때문이다.)

마찬가지로, 복소수 정사각 행렬의 환

${\displaystyle \operatorname {Mat} (n;\mathbb {C} )}$

위의 케일리 변환을 생각하자. 이를 제한하면 마찬가지로 매끄러운 함수

${\displaystyle (f_{1}\upharpoonright {\mathfrak {o}}(n;\mathbb {C} ))\colon {\mathfrak {o}}(n;\mathbb {C} )\to \operatorname {SO} (n;\mathbb {C} )}$

${\displaystyle (f_{1}\upharpoonright {\mathfrak {u}}(n;\mathbb {C} ))\colon {\mathfrak {u}}(n;\mathbb {C} )\to \operatorname {U} (n;\mathbb {C} )}$

를 정의할 수 있다. 여기서

• ${\displaystyle {\mathfrak {o}}(n;\mathbb {C} )}$는 복소수 반대칭 행렬의 복소수 리 대수이다.
• ${\displaystyle {\mathfrak {u}}(n;\mathbb {C} )}$는 복소수 반에르미트 행렬의 실수 리 대수이다.
• ${\displaystyle \operatorname {SO} (n;\mathbb {C} )}$는 행렬식이 1인 복소수 직교 행렬로 구성된 리 군이다.
• ${\displaystyle \operatorname {U} (n;\mathbb {C} )}$는 유니터리 군이다.

사원수 대수 ${\displaystyle \mathbb {H} }$ 위의 케일리 변환

${\displaystyle f\colon \mathbb {H} \cup \{\infty \}\to \mathbb {H} \cup \{\infty \}}$

${\displaystyle f\colon q\mapsto {\frac {1-q}{1+q}}}$

을 생각하자. (${\displaystyle 1-q}$와 ${\displaystyle 1+q}$는 서로 가환하므로 나눗셈을 왼쪽에서 취하든, 오른쪽에서 취하든 상관이 없다.) 이는 순허수 성분 사원수로 구성된 3차원 유클리드 공간의 알렉산드로프 콤팩트화

${\displaystyle (\mathrm {i} \mathbb {R} +\mathrm {j} \mathbb {R} +\mathrm {k} \mathbb {R} )\cup \{\infty \}}$

를 절댓값이 1인 사원수로 구성된 3차원 초구

${\displaystyle \mathbb {S} ^{3}=\{q\in \mathbb {H} \colon |q|=1\}}$

에 대응시킨다. 이는 리 대수 ${\displaystyle {\mathfrak {su}}(2)}$(의 알렉산드로프 콤팩트화)와 리 군 SU(2) 사이의 사상으로 여길 수 있다. (이는 리 대응과 다른 사상이다.)

아서 케일리가 반대칭 행렬에 대하여 1846년에 최초로 도입하였다.^[1]

• “Cayley transform”. 《Encyclopedia of Mathematics》 (영어). Springer-Verlag. 2001. ISBN 978-1-55608-010-4.