剰余類
概要
剰余類（coset）とは、群 $G$ の部分群 $H$ と元 $g$ から作られる集合 $gH=\{gh\mid h\in H\}$（左剰余類）または $Hg$（右剰余類）である。左剰余類は同値関係 $x^{-1}y\in H$ の同値類であり、$G$ は $H$ と同じ大きさの剰余類に分割される。剰余類の個数を指数 $[G:H]$ といい、有限群では $|G|=[G:H]\,|H|$（Lagrange の定理）が成り立つ。整数の加法群の $n\mathbb{Z}$ による剰余類 $a+n\mathbb{Z}$ は法 $n$ の合同類にほかならない。左剰余類と右剰余類は個数は等しいが一般には一致せず、すべて一致する部分群が正規部分群であり、そのとき剰余類の全体が剰余群をなす。
定義
以下、群 $G$ の演算を積 $xy$ で書き、単位元を $e$ と書く。$H$ を $G$ の部分群とする。
$g\in G$ に対し、部分集合
$$
gH:=\{gh\mid h\in H\},\qquad Hg:=\{hg\mid h\in H\}
$$
をそれぞれ $g$ の $H$ による左剰余類（left coset）、右剰余類（right coset）という。両者を合わせて剰余類（coset）という。剰余類 $C$ の元 $g$ を $C$ の代表元といい、$C=gH$（または $C=Hg$）のとき $C$ を「$g$ を代表元とする剰余類」という。左剰余類の全体を $G/H$、右剰余類の全体を $H\backslash G$ と書く。
演算を和 $x+y$ で書くアーベル群では、左剰余類は $g+H=\{g+h\mid h\in H\}$ と書かれ、可換性により右剰余類 $H+g$ と一致する。$H$ 自身は $eH=He=H$ として左剰余類でも右剰余類でもある。$g\notin H$ なら $gH$ は部分群ではない（$e\in gH$ となるのは $g^{-1}\in H$、すなわち $g\in H$ のときに限る）。
$G/H$ の基数（濃度）を $G$ における $H$ の指数（index）といい、$[G:H]$ と書く。$[G:H]$ が有限のとき $H$ は有限指数の部分群であるという。
右剰余類の個数も同じ $[G:H]$ である（prop-coset-left-right）ので、指数の定義に左右のどちらを用いても同じである。
$H$ を群 $G$ の部分群とする。
- $G$ 上の関係 $x\sim_Hy:\iff x^{-1}y\in H$ は同値関係であり、$x$ の同値類は左剰余類 $xH$ である。したがって $G/H$ はこの同値関係による商集合である。
- $x,y\in G$ について、$xH=yH$、$x^{-1}y\in H$、$y\in xH$ の 3 つは同値である。
- 2 つの左剰余類は一致するか交わらないかのいずれかであり、$G$ は互いに交わらない左剰余類の和集合である。
- 右剰余類についても同様に、$Hx=Hy$、$xy^{-1}\in H$、$x\in Hy$ の 3 つは同値であり、2 つの右剰余類は一致するか交わらないかのいずれかで、$G$ は互いに交わらない右剰余類の和集合である。
- 任意の $g\in G$ に対し、$h\mapsto gh$ は $H$ から $gH$ への全単射であり、$h\mapsto hg$ は $H$ から $Hg$ への全単射である。特に $H$ が有限なら $|gH|=|Hg|=|H|$ である。
1：$x^{-1}x=e\in H$ なので反射律が成り立つ。$x^{-1}y\in H$ なら、$H$ は逆元で閉じているので $(x^{-1}y)^{-1}=y^{-1}x\in H$ であり、対称律が成り立つ。$x^{-1}y\in H$、$y^{-1}z\in H$ なら、$H$ は積で閉じているので $x^{-1}z=(x^{-1}y)(y^{-1}z)\in H$ であり、推移律が成り立つ。$y$ が $x$ の同値類に属すること、すなわち $x\sim_Hy$（$x^{-1}y\in H$）は、ある $h\in H$ により $y=xh$ と書けること、すなわち $y\in xH$ と同値である。よって $x$ の同値類は $xH$ である。
2：1 により、$xH=yH$ は $x$ と $y$ の同値類が一致すること、すなわち $x\sim_Hy$（$x^{-1}y\in H$）と同値であり、これは 1 の最後で見たとおり $y\in xH$ と同値である。
3：同値類どうしは一致するか交わらないかのいずれかであり、各元は自分の同値類に属する（同値関係 の記事の定理「同値関係と分割の対応」）。1 によりこれを左剰余類について述べたものが 3 である。
4：関係 $x\approx_Hy:\iff xy^{-1}\in H$ について、1 と同じ議論（左右を入れ替える）により同値関係であり、$y\approx_Hx$、すなわち $yx^{-1}\in H$ は $y\in Hx$ と同値である。よって $x$ の同値類は $Hx$ であり、2・3 と同様に残りの主張が従う。
5：$h\mapsto gh$ は定義により $H$ から $gH$ への全射であり、$gh=gh'$ なら左から $g^{-1}$ を掛けて $h=h'$ なので単射である。$h\mapsto hg$ も同様（右から $g^{-1}$ を掛ける）。$\square$
5 により、$G$ が有限でなくても、すべての左剰余類・右剰余類は $H$ と同じ基数をもつ。2 の条件 $x^{-1}y\in H$ を $xy^{-1}\in H$ と取り違えないこと：後者は右剰余類が一致する条件である。
$H$ を群 $G$ の部分群とする。逆元をとる写像 $x\mapsto x^{-1}$ は各左剰余類 $gH$ を右剰余類 $Hg^{-1}$ に全単射に写し、
$$
G/H\longrightarrow H\backslash G,\qquad gH\longmapsto Hg^{-1}
$$
は代表元 $g$ の選び方によらずに定まる全単射である。特に、左剰余類の個数と右剰余類の個数は等しい。
$(gh)^{-1}=h^{-1}g^{-1}$ であり、$h$ が $H$ を動くとき $h^{-1}$ も $H$ 全体を動くので、$x\mapsto x^{-1}$ は $gH$ を $Hg^{-1}$ の上に写す。$x\mapsto x^{-1}$ はそれ自身が逆写像である全単射なので、この制限も全単射である。
代表元によらないこと：$gH=g'H$ なら、prop-coset-partition の 2 により $g^{-1}g'\in H$ である。$g^{-1}(g'^{-1})^{-1}=g^{-1}g'\in H$ なので、同命題の 4（$x=g^{-1}$、$y=g'^{-1}$）により $Hg^{-1}=Hg'^{-1}$ である。同様に $Hg^{-1}=Hg'^{-1}$ から $gH=g'H$ が従う（上の議論を逆にたどる）ので、写像は単射である。任意の右剰余類 $Hk$ は $k^{-1}H$ の像なので全射である。$\square$
一方、$gH\mapsto Hg$（逆元をとらない対応）は一般には代表元によって値が変わり、写像として定まらない（ex-coset-s3）。
直感
左剰余類 $gH$ は、部分群 $H$ を $g$ だけ「平行移動」したものである。平面の中の原点を通る直線 $H$ を平行移動すると、平面は互いに交わらない平行線たちで埋め尽くされる。同じように、群 $G$ は $H$ の平行移動である剰余類たちで、重なりも隙間もなく分割される（prop-coset-partition）。しかもどの剰余類も $H$ と同じ大きさをもつので、有限群では「全体の元の個数 ＝ 剰余類 1 つの元の個数 × 剰余類の個数」となる（thm-coset-lagrange）。
2 つの元が同じ剰余類に入ることは「$H$ の元の違いしかない」ことを意味し、剰余類をとることは $H$ の違いを無視して元を同一視することにあたる。整数を $n$ で割った余りで分類する合同式は、その最も身近な例である。ただし非可換な群では、左から平行移動するか右から平行移動するかで結果が変わりうる。
例と反例
$n\ge1$ とし、整数の加法群 $\mathbb{Z}$ の部分群 $n\mathbb{Z}=\{nk\mid k\in\mathbb{Z}\}$ を考える。$a\in\mathbb{Z}$ の剰余類は
$$
a+n\mathbb{Z}=\{\ldots,a-2n,a-n,a,a+n,a+2n,\ldots\}
$$
である。prop-coset-partition の 2（加法的に書けば $a+n\mathbb{Z}=b+n\mathbb{Z}\iff -a+b\in n\mathbb{Z}$）により、
$$
a+n\mathbb{Z}=b+n\mathbb{Z}\iff n\mid a-b\iff a\equiv b\pmod n
$$
である。つまり $n\mathbb{Z}$ による剰余類は、$n$ を法とする合同式の同値類、すなわち初等整数論でいう「法 $n$ の剰余類」（合同類、residue class）そのものである。後の prop-coset-integers-count により剰余類はちょうど $n$ 個あり、$[\mathbb{Z}:n\mathbb{Z}]=n$ である。$n=2$ の剰余類は偶数全体 $0+2\mathbb{Z}$ と奇数全体 $1+2\mathbb{Z}$ である。
剰余類どうしの和 $(a+n\mathbb{Z})+(b+n\mathbb{Z}):=(a+b)+n\mathbb{Z}$ と積 $(a+n\mathbb{Z})(b+n\mathbb{Z}):=ab+n\mathbb{Z}$ は代表元によらずに定まり、剰余類の全体 $\mathbb{Z}/n\mathbb{Z}$ は環になる。群としての構造は 剰余群、環としての構造は 剰余環 の記事が扱う。
実数の加法群 $\mathbb{R}$ の部分群 $\mathbb{Z}$ について、$t$ の剰余類 $t+\mathbb{Z}$ は $t$ と整数だけ違う実数の全体である。各剰余類は区間 $[0,1)$ の元をちょうど 1 つ含む（$t+\mathbb{Z}$ の中の $[0,1)$ の元は $t-\lfloor t\rfloor$、すなわち $t$ の小数部分であり、$[0,1)$ の相異なる 2 元の差は整数でない）。したがって $t+\mathbb{Z}\mapsto t-\lfloor t\rfloor$ は $\mathbb{R}/\mathbb{Z}$ から $[0,1)$ への全単射であり、指数 $[\mathbb{R}:\mathbb{Z}]$ は $[0,1)$ の基数、すなわち連続体濃度である。この例は無限指数の部分群の例である。
群準同型 $f\colon G\to K$ の核を $N=\ker f$ とすると、$f(x)=f(y)$ は $xN=yN$ と同値であり、$f$ の空でないファイバー $f^{-1}(\{f(x)\})$ は剰余類 $xN$ に等しい（群準同型 の記事の命題「単射性と核」）。
- 体 $k$ 上の一般線形群 $\mathrm{GL}_n(k)$ の行列式 $\det\colon\mathrm{GL}_n(k)\to k^\times$ は全射準同型で、核は特殊線形群 $\mathrm{SL}_n(k)$ である。よって $\mathrm{SL}_n(k)$ の剰余類は、行列式が一定値 $a\in k^\times$ の行列の集合 $\{A\mid\det A=a\}$ であり、$[\mathrm{GL}_n(k):\mathrm{SL}_n(k)]=|k^\times|$ である。
- $k$ 上のベクトル空間 $V,W$ の間の線形写像 $T\colon V\to W$ は加法群の準同型であり、方程式 $T(x)=b$ の解集合は、空でなければ、特殊解 $x_0$ による剰余類 $x_0+\ker T$ である。一般に、線形部分空間 $U\subset V$ の剰余類 $v+U$ は $U$ を平行移動したアフィン部分空間である。
3 次の対称群 $S_3$ で $H=\{e,(1\,2)\}$ とする（置換の積 $\sigma\tau$ は $\tau$ を先に施す）。$(1\,3)(1\,2)=(1\,2\,3)$、$(1\,2)(1\,3)=(1\,3\,2)$、$(1\,2)(1\,2\,3)=(2\,3)$ により
$$
\begin{aligned}
&eH=H,\qquad (1\,3)H=(1\,2\,3)H=\{(1\,3),(1\,2\,3)\},\qquad (2\,3)H=(1\,3\,2)H=\{(2\,3),(1\,3\,2)\},\\
&He=H,\qquad H(1\,3)=H(1\,3\,2)=\{(1\,3),(1\,3\,2)\},\qquad H(2\,3)=H(1\,2\,3)=\{(2\,3),(1\,2\,3)\}
\end{aligned}
$$
である。左剰余類も右剰余類も $3$ 個ずつで、$S_3$ をそれぞれ分割している（prop-coset-partition、prop-coset-left-right）。しかし $(1\,3)H\neq H(1\,3)$ である。
この例は「左剰余類と右剰余類の個数が等しい」を満たすが「各元 $g$ で $gH=Hg$」を満たさず、含意「$gH$ と $Hg$ はつねに一致する」を破る。すべての $g$ で $gH=Hg$ となる部分群が正規部分群である。また $(1\,3)H=(1\,2\,3)H$ なのに $H(1\,3)\neq H(1\,2\,3)$ なので、対応 $gH\mapsto Hg$ は代表元のとり方によって値が変わり、写像として定まらない。
部分群の仮定は prop-coset-partition に欠かせない。$\mathbb{Z}$ の部分集合 $S=\{0,1\}$ は $0$ を含むが和で閉じておらず、部分群でない。その平行移動 $1+S=\{1,2\}$ は $S$ と $1$ を共有するが $S$ と一致しない。関係「$y-x\in S$」も $1-0\in S$、$0-1\notin S$ なので対称律を満たさない。この例は「単位元を含む」を満たすが「部分群」を満たさず、含意「平行移動どうしは一致するか交わらない」を破る。
- $[\mathbb{Z}:n\mathbb{Z}]=n$（$n\ge1$）であり、$[\mathbb{Z}:\{0\}]$ は可算集合 $\mathbb{Z}$ の基数である。このように無限群の部分群の指数は、有限のことも無限のこともある。
- 有理数の加法群で $[\mathbb{Q}:\mathbb{Z}]$ は無限である。$2\le m< m'$ なら $0<\frac1m-\frac1{m'}<1$ は整数でないので、剰余類 $\frac1m+\mathbb{Z}$（$m\ge2$）はすべて異なる。
- $[S_3:A_3]=2$、$[S_3:\{e,(1\,2)\}]=3$ である（ex-coset-s3）。交代群 $A_3=\{e,(1\,2\,3),(1\,3\,2)\}$ の左剰余類は $A_3$ と、互換 3 つからなる集合である。
性質
有限群の位数と指数
prop-coset-partition の 3 により、$G$ は互いに交わらない左剰余類の和集合であり、$G$ が有限なので左剰余類は有限個である。それらを $g_1H,\dots,g_rH$（$r=[G:H]$）とすると、互いに交わらない有限集合の和集合の元の個数は各集合の元の個数の和なので $|G|=|g_1H|+\cdots+|g_rH|$ である。同命題の 5 により各項は $|H|$ に等しいから、$|G|=r|H|=[G:H]\,|H|$ を得る。$\square$
これは Lagrangeの定理 として知られる（DF04 §3.2）。その系（元の位数が群の位数を割り切ること、素数位数の群が巡回群であること、核と像の位数の公式）と、逆が成り立たない例（位数 $12$ の交代群 $A_4$ は位数 $6$ の部分群をもたない）は、その記事が扱う。$H$ が正規部分群でなくても定理は成り立つ（ex-coset-s3 では $6=3\cdot2$）。
指数の乗法性
$G$ の各左剰余類から代表元を 1 つずつ選んだ集合を、$G/H$ の完全代表系という。
$K\le H\le G$ を部分群の列とする。$\{a_i\}_{i\in I}$ を $G/H$ の完全代表系、$\{b_j\}_{j\in J}$ を $H/K$ の完全代表系とすると、$\{a_ib_j\}_{(i,j)\in I\times J}$ は $G/K$ の完全代表系であり、$(i,j)\mapsto a_ib_jK$ は $I\times J$ から $G/K$ への全単射である。したがって、基数の等式
$$
[G:K]=[G:H]\,[H:K]
$$
が成り立つ。特に $[G:H]$ と $[H:K]$ が有限なら $[G:K]$ も有限である。
全射であること：$g\in G$ とする。$gH$ はある $a_iH$ に等しいので、$h:=a_i^{-1}g\in H$ である（prop-coset-partition の 2）。$hK$ は $H/K$ の元なので、ある $b_j$ により $hK=b_jK$ である。よって $gK=a_ihK=a_ib_jK$ である（$hK=b_jK$ の両辺に左から $a_i$ を掛けた）。
単射であること：$a_ib_jK=a_{i'}b_{j'}K$ とする。$b_jK\subset H$ なので $a_ib_jK\subset a_iH$ であり、同様に $a_{i'}b_{j'}K\subset a_{i'}H$ である。よって $a_iH$ と $a_{i'}H$ は交わり、prop-coset-partition の 3 により一致する。完全代表系の定義から $i=i'$ である。すると $a_ib_jK=a_ib_{j'}K$ の両辺に左から $a_i^{-1}$ を掛けて $b_jK=b_{j'}K$ となり、$j=j'$ である。
全単射 $I\times J\to G/K$ があるので、$G/K$ の基数は $I\times J$ の基数、すなわち $[G:H]$ と $[H:K]$ の積である。$\square$
完全代表系は、各剰余類から 1 つずつ元を選ぶことで得られる。剰余類が無限個あるとき、この選択には一般に選択公理を用いる。剰余類が有限個なら選択公理は要らない。$G$ が有限群の場合の $[G:K]=[G:H][H:K]$ は、thm-coset-lagrange を 3 回使って位数を比べても得られる（Lagrangeの定理 の記事の系「部分群の鎖と指数」）。prop-coset-index-multiplicative は $G$ が無限群で指数だけが有限の場合にも使える。たとえば $4\mathbb{Z}\le2\mathbb{Z}\le\mathbb{Z}$ で $[\mathbb{Z}:4\mathbb{Z}]=[\mathbb{Z}:2\mathbb{Z}][2\mathbb{Z}:4\mathbb{Z}]=2\cdot2$ である。
整数の剰余類の個数
$n\ge1$ とする。$\mathbb{Z}$ の $n\mathbb{Z}$ による剰余類は
$$
0+n\mathbb{Z},\quad1+n\mathbb{Z},\quad\dots,\quad(n-1)+n\mathbb{Z}
$$
のちょうど $n$ 個であり、これらは相異なる。したがって $\{0,1,\dots,n-1\}$ は $\mathbb{Z}/n\mathbb{Z}$ の完全代表系であり、$[\mathbb{Z}:n\mathbb{Z}]=n$ である。
$a\in\mathbb{Z}$ とする。整数の除法（除法の原理）により $a=qn+r$、$0\le r\le n-1$ となる整数 $q,r$ がある。$a-r=qn\in n\mathbb{Z}$ なので、ex-coset-integers により $a+n\mathbb{Z}=r+n\mathbb{Z}$ である。よってすべての剰余類は一覧のどれかに等しい。
$0\le r< s\le n-1$ なら $0< s-r< n$ なので $s-r$ は $n$ の倍数でなく、$r+n\mathbb{Z}\neq s+n\mathbb{Z}$ である。よって一覧の $n$ 個は相異なる。$\square$
$n=0$ なら $0\mathbb{Z}=\{0\}$ であり、剰余類は 1 点集合 $\{a\}$ で、無限個ある。$\{0,1,\dots,n-1\}$ 以外にも、たとえば法 $7$ の $\{-3,-2,-1,0,1,2,3\}$ のように、どの 2 つも $n$ を法として合同でない $n$ 個の整数は完全代表系になる（初等整数論では完全剰余系という。HW08 Chapter V）。$n$ 個の整数でも、法 $4$ の $\{0,2,4,6\}$ は $0\equiv4$ を含み奇数の剰余類を含まないので完全代表系でない。
剰余類のさまざまな現れ
$G$ は左剰余類の集合 $G/H$ に左からの積 $g\cdot(xH):=gxH$ で作用する（群の作用）。$xH=yH$ なら $gxH=gyH$ なので、この作用は代表元によらない。この作用は推移的であり（$xH=x\cdot(eH)$）、剰余類 $xH$ の固定部分群は $xHx^{-1}$ である。逆に、群 $G$ が集合 $X$ に推移的に作用するとき、点 $x\in X$ の固定部分群を $G_x$ とすると $gG_x\mapsto g\cdot x$ は $G/G_x$ から $X$ への全単射であり、軌道の大きさは指数 $[G:G_x]$ に等しい（軌道・固定群定理。DF04 §4.1）。
「剰余類」は群論の coset の訳語であると同時に、初等整数論では法 $n$ の合同類 $a+n\mathbb{Z}$（residue class）を指す。後者は前者の $G=\mathbb{Z}$、$H=n\mathbb{Z}$ の場合である（ex-coset-integers）。左右の呼び方を本記事と逆にして $Hg$ を左剰余類と呼ぶ文献もあるので、定義を確かめて読む必要がある。
関連項目
参考文献
Mathpediaは寄付と、参考文献の書籍リンク（Amazonアソシエイト）の紹介料で運営されています。 支援について ／ 寄付する
