באלגברה ליניארית, מטריצה אורתוגונלית היא מטריצה ריבועית שרכיביה ממשיים המקיימת את התנאי ${\displaystyle \ A^{t}A=AA^{t}=I}$, כאשר ${\displaystyle \ I}$היא מטריצת היחידה, ו- ${\displaystyle \ A^{t}}$היא המטריצה המשוחלפת של ${\displaystyle \ A}$. למטריצות כאלו יש דטרמיננטה שהיא 1+ או 1-. לכפל במטריצה כזו יש תכונה חשובה: הוא שומר על אורך של וקטורים, וגם על הזווית ביניהם. העמודות של מטריצה אורתוגונלית מהוות בסיס אורתונורמלי למרחב הווקטורי שממדו כמספר עמודות המטריצה, עם המכפלה הפנימית הסטנדרטית.

למטריצות אורתוגונליות ישנן מספר הגדרות שקולות, החשובות בהן הן:

• ${\displaystyle \ AA^{t}=I}$, כלומר ${\displaystyle \ A^{t}=A^{-1}}$.
• ${\displaystyle {\vec {v}}\cdot {\vec {w}}=A{\vec {v}}\cdot A{\vec {w}}}$, כלומר שהכפל של וקטורים ב-${\displaystyle \ A}$משמר מכפלה סקלרית.
• העמודות של המטריצה הן בסיס אורתונורמלי.
• השורות של המטריצה הן בסיס אורתונורמלי.

2 הקריטריונים האחרונים דומים זה לזה והם שקולים מאחר שאם ${\displaystyle \ A}$אורתוגונלית, כך גם ${\displaystyle \ A^{t}}$.

אוסף המטריצות האורתוגונליות בגודל ${\displaystyle \ n\times n}$ מעל שדה F סגור לכפל, והוא מהווה חבורה אלגברית שמקובל לסמן ב- ${\displaystyle \ O_{n}(F)}$. מעל שדה המספרים הממשיים, ${\displaystyle \ O_{n}(\mathbb {R} )}$ היא חבורה קומפקטית.

המטריצות האורתוגונליות בעלות דטרמיננטה 1 נקראות "מטריצות אורתוגונליות מיוחדות", והן מרכיבות את תת-החבורה ${\displaystyle \ SO_{n}(F)}$ של ${\displaystyle \ O_{n}(F)}$. בשדה ממאפיין שונה מ-2, ${\displaystyle \ SO_{n}(F)\triangleleft O_{n}(F)}$ היא תת-חבורה מאינדקס 2 (מעל שדה ממאפיין 2, שתי החבורות שוות). המטריצות הסקלריות האורתוגונליות הן ${\displaystyle \ \pm I}$, ומגדירים את חבורות המנה ${\displaystyle \ PO_{n}(F)=O_{n}(F)/\langle -I\rangle }$ ו- ${\displaystyle \ PSO_{n}(F)=SO_{n}(F)/(\langle -I\rangle \cap SO_{n}(F))}$.

המטריצה ${\displaystyle \ -I}$שייכת ל- ${\displaystyle \ SO_{n}(F)}$אם ורק אם n זוגי. לכן, כאשר n זוגי, ארבע החבורות ${\displaystyle \ O_{n},SO_{n},PO_{n},PSO_{n}}$שונות זו מזו, ואילו כאשר n אי זוגי, ${\displaystyle \ O_{n}\cong SO_{n}\times \langle -I\rangle }$ו- ${\displaystyle \ PO_{n}\cong SO_{n}=PSO_{n}}$.

מעל שדה המספרים הממשיים, ${\displaystyle \ SO_{2}}$ כוללת את מטריצות הסיבוב בכל זווית אפשרית. חבורה זו, שהיא אבלית, איזומורפית לחבורה המעגלית ${\displaystyle \ S^{1}}$ של המספרים המרוכבים בעלי נורמה 1, וגם לחבורת המנה ${\displaystyle \ \mathbb {R} /\mathbb {Z} }$. ליפוף כפול של המעגל (כלומר, זיהוי הקצוות ${\displaystyle \ z\equiv -z}$) נותן את אותה חבורה, ולכן ${\displaystyle \ PSO_{2}(\mathbb {R} )\cong SO_{2}(\mathbb {R} )}$. החבורה ${\displaystyle \ O_{2}(\mathbb {R} )}$ כוללת איבר נוסף, ${\displaystyle \ \tau =\left({\begin{array}{cc}1&0\\0&-1\end{array}}\right)}$, המתאים לשיקוף סביב ציר ה-x, ואת כל המכפלות של ${\displaystyle \ \tau }$ בסיבובים. החבורה הזו אינה אבלית. גם כאן ${\displaystyle \ PO_{2}(\mathbb {R} )\cong O_{2}(\mathbb {R} )}$.

מטריצה אורתוגונלית היא מטריצה אוניטרית מעל הממשיים. מטריצה אוניטרית ${\displaystyle A\in M_{n}(\mathbb {F} )}$ מקיימת: ${\displaystyle A^{*}A=I}$ כאשר ${\displaystyle A^{*}:={\overline {A^{t}}}}$ ותכונה הנובעת מזה היא שעמודותיה ושורותיה פורשות את ${\displaystyle \mathbb {F} ^{n}}$. הערה: ${\displaystyle \mathbb {F} \in {\begin{Bmatrix}\mathbb {R} ,\mathbb {C} \end{Bmatrix}}}$

• ${\displaystyle A\,}$ מטריצה הפיכה ו-${\displaystyle A^{-1}={\overline {A}}^{T}\,}$
• מטריצה אוניטרית שומרת מכפלה פנימית: ${\displaystyle \langle Ax,Ay\rangle =\langle x,A^{*}Ay\rangle =\langle x,Iy\rangle =\langle x,y\rangle }$ (כאן נעזרנו בתכונות הצמוד ההרמיטי במכפלה פנימית)
• מטריצה אוניטרית שומרת על נורמה, ${\displaystyle \ \|Ax\|=\|x\|}$. כתוצאה מכך, ערך מוחלט של כל ערך עצמי שלה הוא 1.
• אם A אוניטרית ${\displaystyle A^{*}\,}$ ו-${\displaystyle {\overline {A}}}$ גם הן אוניטריות

• מטריצת סיבוב
• מטריצה אוניטרית

• מטריצה אורתוגונלית, באתר MathWorld (באנגלית)

ערך זה הוא קצרמר בנושא מתמטיקה. אתם מוזמנים לתרום לוויקיפדיה ולהרחיב אותו.