אחד הרעיונות היסודיים בתורת החבורות הוא הפעולה של חבורה על קבוצה. היכולת של חבורות לפעול על מבנים מתמטיים שונים היא הסיבה העיקרית לכך שתורת החבורות שימושית כל-כך בענפים שונים במתמטיקה. גם בתורת החבורות עצמה, פעולה של חבורה על קבוצות בעלות מבנה מוגדר מראש היא כלי מרכזי בחקר המבנה של חבורות, סופיות וגם אינסופיות.

אומרים שחבורה נתונה ${\displaystyle G}$ פועלת על קבוצה ${\displaystyle X}$, אם אפשר לפרש כל איבר של החבורה כאילו הוא מהווה פונקציה מן הקבוצה אל עצמה, באופן כזה שכפל האיברים בחבורה מתאים להרכבה של פונקציות, ואיבר היחידה של החבורה פועל 'באופן טריוויאלי' (כלומר מעביר כל איבר של ${\displaystyle X}$ לעצמו).

כפי שהוצג במבוא, חבורה פועלת על קבוצה אם כל איבר שלה מתפרש כפונקציה מן הקבוצה אל עצמה. מכיוון שכל איבר של חבורה הוא הפיך, גם הפונקציות המתאימות הן הפיכות, כלומר חד-חד-ערכיות ועל.

לחבורה של כל הפונקציות ההפיכות מקבוצה ${\displaystyle X}$ אל עצמה קוראים 'החבורה הסימטרית של ${\displaystyle X}$', ומסמנים ב-${\displaystyle S_{X}}$. זוהי הכללה של המקרה הסופי, בו מקובל לדבר על החבורה הסימטרית שסימונה ${\displaystyle S_{n}}$. אם כך, אפשר להבין פעולה של חבורה ${\displaystyle G}$ על קבוצה ${\displaystyle X}$ גם כהומומורפיזם של ${\displaystyle G}$ לתוך החבורה הסימטרית של ${\displaystyle X}$. כשההעתקה הזו חד-חד-ערכית רק איבר היחידה של ${\displaystyle G}$ פועל באופן טריוויאלי על ${\displaystyle X}$, והפעולה נקראת נאמנה.

להלן הגדרה שקולה, מפורטת יותר. פעולה של החבורה ${\displaystyle G}$ על הקבוצה ${\displaystyle X}$ היא פונקציה ${\displaystyle \phi :G\times X\to X}$ המקיימת:

• ${\displaystyle \phi (gh,x)=\phi (g,\phi (h,x))}$ (אסוציאטיביות)
• ${\displaystyle \phi (e,x)=x}$ (האיבר הנייטרלי פועל בצורה הטריוויאלית)

לשם הקיצור, לרוב מסמנים את הפעולה ב-${\displaystyle g\cdot x}$ או ב-${\displaystyle g(x)}$ במקום ב-${\displaystyle \phi (g,x)}$.

פעולה של חבורה ${\displaystyle G}$ על קבוצה ${\displaystyle X}$, שנסמן ${\displaystyle G\times X\ni (g,x)\mapsto g\cdot x\in X}$, נקראת פעולה שמאלית אם היא מקיימת:

• ${\displaystyle \forall x\in X:e_{G}\cdot x=x}$
• ${\displaystyle \forall g,h\in G:\forall x\in X:\quad g\cdot (h\cdot x)=gh\cdot x}$

פעולה של חבורה ${\displaystyle G}$ על קבוצה ${\displaystyle X}$, שנסמן ${\displaystyle X\times G\ni (x,g)\mapsto x\bullet g}$, נקראת פעולה ימנית אם היא מקיימת:

• ${\displaystyle \forall x\in X:x\bullet e_{G}=x}$
• ${\displaystyle \forall g,h\in G:\forall x\in X:\quad (x\bullet g)\bullet h=x\bullet gh}$

אפשר להבחין בין כמה סוגים של פעולות חשובות. ראשית, חבורה יכולה לפעול על קבוצה חסרת מבנה (בדרך כלל סופית), או על חבורה אחרת. לדוגמה, החבורה הסימטרית ${\displaystyle S_{n}}$ פועלת על קבוצת המספרים ${\displaystyle \{1,2,\ldots ,n\}}$. כל חבורה ${\displaystyle G}$ פועלת על עצמה, על ידי כפל משמאל: ${\displaystyle g(h)=gh}$. פעולה זו נקראת הפעולה הרגולרית. באופן כללי יותר, אם ${\displaystyle H\leq G}$ תת-חבורה (שאינה בהכרח נורמלית), ${\displaystyle G}$ פועלת על אוסף המחלקות ${\displaystyle G/H}$, שוב על ידי כפל משמאל: ${\displaystyle g(g'H)=gg'H}$. לפעולה זו יש יישום מיידי במשפט קיילי והעידון שלו. פעולה חשובה אחרת היא ההצמדה: ${\displaystyle G}$ פועלת על עצמה לפי ${\displaystyle g:x\mapsto gxg^{-1}}$. באופן כללי יותר, ${\displaystyle G}$ פועלת על ידי הצמדה על כל חבורת מנה ${\displaystyle G/H}$: ${\displaystyle g:xH\mapsto gxg^{-1}H}$.

פעולה מסוג קצת אחר היא הפעולה של חבורה על קבוצה בעלת מבנה, כמו מרחב וקטורי או מרחב טופולוגי. כאן דורשים כמעט תמיד שהחבורה תכבד את המבנה הקיים: איברי החבורה אינם יכולים להיות סתם פונקציות, אלא למשל פונקציות ליניאריות (במקרה הראשון) או רציפות (במקרה השני). במקרה הראשון ההצגה אינה סתם הומומורפיזם של החבורה אל החבורה הסימטרית של כל הווקטורים במרחב (חבורה זו הורסת לחלוטין את המבנה החיבורי, ולכן אין לה שום חשיבות), אלא אל החבורה של כל ההעתקות הליניאריות ההפיכות ${\displaystyle {\text{GL}}(V)}$, שהיא חבורת המטריצות ההפיכות ${\displaystyle {\text{GL}}_{n}(F)}$ (כאשר ${\displaystyle n}$ הוא ממד המרחב מעל שדה ${\displaystyle F}$). החבורה פועלת על הווקטורים על ידי כפל מטריצות רגיל. הפעולות השונות של חבורה על מרחבים וקטוריים (בדרך כלל מממד סופי) הם האובייקט היסודי בתורת ההצגות של חבורות, שממנה צמחו רוב המשפטים החשובים בתורת החבורות בשליש האמצעי של המאה ה-20. פעולות על מרחבים טופולוגיים הם נקודת הפתיחה של הטופולוגיה האלגברית.

כדוגמה נוספת, חבורה יכולה לפעול על קבוצת הקודקודים של גוף מישורי או מרחבי, תחת האילוץ שהגוף יתפוס בסיום הפעולה את אותו המקום שתפס לפניה. לדוגמה, חבורה הפועלת על קודקודיו של מצולע משוכלל בעל ${\displaystyle n}$ קודקודים היא תת-חבורה של החבורה הסימטרית ${\displaystyle S_{n}}$, שאיבריה שומרים על יחסי השכנות של קודקודי המצולע. הפעולות המותרות הן סיבוב או שיקוף המצולע. חבורה זו נקראת החבורה הדיהדרלית מסדר ${\displaystyle 2n}$.

פעולת החבורה על ${\displaystyle X}$ מחלקת את הקבוצה למחלקות שקילות הנקראות מסלולים: המסלול של נקודה ${\displaystyle x\in X}$, המסומן ${\displaystyle {\text{Orb}}_{G}(x)}$ או ${\displaystyle Gx=G\cdot x}$ כולל את כל הנקודות שניתן להגיע אליהן מ-${\displaystyle x}$ בעזרת אברי ${\displaystyle G}$. כלומר כל הנקודות ${\displaystyle G\cdot x=\{g\cdot x:g\in G\}\subseteq X}$. אם הקבוצה מורכבת כולה ממסלול יחיד (כלומר, אפשר להגיע מכל נקודה לכל נקודה אחרת), אז הפעולה היא טרנזיטיבית.

המייצב של נקודה ${\displaystyle x\in X}$ הוא אוסף כל האיברים ב-${\displaystyle G}$ השומרים על ${\displaystyle x}$ במקומו: ${\displaystyle {\text{Stab}}_{G}(x)=\{g\in G:g\cdot x=x\}}$ (לעיתים מסמנים גם ${\displaystyle G_{x}={\text{Stab}}_{G}(x)}$).

המייצב של כל נקודה הוא תמיד תת-חבורה של ${\displaystyle G}$, וגודל המסלול של ${\displaystyle x}$ תלוי בגודלו של המייצב: כאשר החבורה סופית מתקיים ${\displaystyle |G\cdot x|=[G:{\text{stab}}(x)]}$.^[1] כמו כן, אם ${\displaystyle y=gx}$ נמצא במסלול של ${\displaystyle x}$ אז המייצב של ${\displaystyle x}$ צמוד למייצב של ${\displaystyle y}$: ${\displaystyle {\text{Stab}}(y)=g\cdot {\text{Stab}}(x)\cdot g^{-1}}$. בפרט, אם הפעולה טרנזיטיבית אז כל המייצבים צמודים זה לזה.^[2] הלמה של ברנסייד קושרת את האינדקסים של מייצבים בחבורה למספר המסלולים.

• פעולה טרנזיטיבית
• הלמה של ברנסייד

מדיה וקבצים בנושא פעולת חבורה בוויקישיתוף

• פעולת חבורה, באתר אנציקלופדיה למתמטיקה (באנגלית)
• פעולת חבורה, באתר MathWorld (באנגלית)