數學上,對稱群描述物體的所有對稱性。這是通過群作用的概念來形式化的:群的每個元素作為一個雙射(或者對稱作用)作用在某個集合上。在這個情況下,群稱為置換群(特別是在群有限或者不是線性空間時)或者變換群(特別是當這個集合是線性空間而群作為線性變換作用在集合上時)。一個群G的置換表示是群作為一個集合的置換群的群表示(通常該集合有限),並且可以表述為置換矩陣,一般在有限的情形作此考慮-這和作用在有序的線性空間基上是一樣的。
令 為一個群, 為一個集合, 在 上的一個(左) 群作用 是一個二元函數
該函數滿足如下兩條公理:
- 對所有 以及 ,。
- 對每個 ,有 ( 為群 的單位元)。
一般稱群 (在左邊)作用於集合 上,或稱 是一個 -集合。
為簡化在群作用 上使用的符號,我們可以將其柯里化:令 為由單個元素 給出的映射 ,這樣可以通過考慮函數集 來研究群作用。上述兩條公理可以寫作
其中 表示兩函數的複合。所以第二條公理說明函數的複合可以與群運算互相對應,它們可以組成一個交換圖表。該公理甚至可以簡寫為 。
一般簡寫為 或 。
由上述兩條公理可知,對固定的元素 ,從映射到 是一個雙射(單射和滿射的條件可以分別通過考慮 和 給出)。因此,也可以將 在 上的群作用定義為從 到對稱群上 的群同態。
我們可以類似地定義一個 在 上的右群作用為函數,滿足以下公理:
注意左和右作用的區別僅在於像 這樣的積在 上作用的次序。左群作用中, 先作用,然後才到 ,而對於右作用 先作用,然後才到 。右作用與群上的逆操作複合可以構造出一個左作用。如果 為一右作用,則
是一左作用,因為
而
所以我們可以不失一般性地考慮左群作用。
群G作用在集合X上的作用稱為:[1]
- 遞移性(Transitive)
- 如果X是一個非空集合,對於每對數對 x,y X,則存在一個gG,使得,我們就稱此作用為遞移性。
- 忠實性(Faithful)
- 如果群G嵌入(embbeding)到X的置換群中,我們就稱此作用為忠實的。換言之,就是群G到X的置換群之中為單射。
- 自由性(Free)
- 如果給定 ,存在,則有著,則稱為此作用為自由性。
- 正則的(Regular)
- 同時具有自由性以及遞移性的作用稱為正則的,又稱簡單遞移(英語:simply transitive)。
- n-遞移性(n-transitive)
- 如果集合X 至少有 n 個元素, 對所有不同的元素x1, ..., xn 和所有不同的y1, ..., yn, 存在一個 g 在群G 使得 g⋅xk = yk 對所有 1 ≤ k ≤ n ,我們就稱其為n-遞移性。
- 本原的(Primitive)
- 如果遞移性作用滿足只有trivial區塊(block),那我們稱此作用為本原的。可以證明n-遞移性皆為本原的。
令群 作用在集合 上,對 中的元素 , 在 上的軌道是 的子集,定義為
記作 或 。
集合 的兩個軌道要麼相等,要麼完全不相交,因此軌道是集合的一個劃分。如果兩個軌道 和 存在公共元素 ,那麼存在兩個 中的元素 和 ,使得 , 。因而 ,反之亦可推出 ,所以兩個集合相等。
軌道的一個例子是陪集,假若 是
的一個子集,且定義 中元素的慣常運算規則為 在 上的一個作用,那麼 的陪集 ()就是 的軌道。
令 為 的一個子集,群 作用在 上,對於群 中的所有元素 ,以及所有 中的元素 ,有 ,則我們會說 在 的作用下是封閉的。
若是的一個元素,對於群中的所有元素而言,都有,那麼就稱是-不變的(-invariant)。
令 和 ,如果 ,則 是關於 的一個不動點。
對 的元素 ,所有令 的 中的元素 構成的集合稱為 關於 的穩定子群,記作 或 。
- 。
是的一個子群,因為根據定義,因此 的單位元 在 中。如果 ,那麼的逆元也是的元素,因為。
軌道與穩定子群緊密相關。令群 作用在 上,令 中的 ,考慮映射 , 。該映射的值域等於軌道 。 中的兩元素 和 的像 和 相同的條件是
- 。
換言之, 當且僅當 和 在穩定子群 的同一個陪集中。所以所有在軌道 中的元素 的原像都包含於某個陪集中,每個陪集的像亦為 的一個單元素集合。因此 事實上是 的所有陪集與 的元素的一一對應, 是一個雙射函數。
這個結論稱為軌道-穩定點定理,有
而一個跟軌道-穩定點定理相似的結果就是伯恩賽德引理
其中 是 關於 的穩定子群。 和 都有限時該引理尤其重要,可以被詮釋為「群作用的軌道數等於平均每個群元素的不動點的個數」。
- 任意群G在任意集合X上的平凡的群作用定義為 g⋅x = x 對任意g屬於G以及任意x屬於X;換句話說,每個群元素對應 X上的恆等置換。[2]