両側剰余類(double coset)とは、群 $G$ の部分群 $H,K$ と元 $x$ に対し、左右から $H$ と $K$ の元を掛けて得られる部分集合 $HxK=\{hxk\}$ のことである。$G$ は両側剰余類に分割され、$HxK$ は左剰余類の集合 $G/K$ への $H$ の作用の軌道に対応し、含まれる左剰余類の個数は $[H:H\cap xKx^{-1}]$ に等しい。左剰余類と違って大きさはそろわず、$S_3$ では大きさ $2$ と $4$ の両側剰余類が現れる。一般線形群を上三角行列の群で両側から割る Bruhat 分解、Tits 系、誘導表現の制限の分解(Mackey の公式)などで基本的な役割を果たす。
群 $G$ の部分群 $K$ による左剰余類 $xK$ は、$x$ に右から $K$ の元を掛けて得られる集合である。左からも別の部分群 $H$ の元を掛けることを許すと、集合 $HxK=\{hxk\}$ が得られる。これを 両側剰余類 という。左剰余類と違い、両側剰余類どうしは大きさがそろうとは限らない。それでも $G$ は両側剰余類に分割され、その様子は「$H$ が左剰余類の集合 $G/K$ にどう作用するか」で完全に記述できる。
両側剰余類は、2 つの部分群に関する対称性を同時に扱うときに現れる。一般線形群 $\mathrm{GL}_n$ を上三角行列の群 $B$ で両側から割ると置換行列で添字付けられた有限個の部分に分かれ(Bruhat分解)、この形を公理にしたものが Tits系、BN対 である。有限群の表現論では、誘導表現を部分群に制限したときの分解が両側剰余類で記述される。
この記事では、両側剰余類による分割(prop-dcs-partition)、軌道としての記述と大きさの公式(thm-dcs-orbit)、直積 $G/H\times G/K$ への $G$ の作用の軌道との対応(thm-dcs-product-orbits)を証明し、対称群と $\mathrm{GL}_2$ の例で確かめる。
以下、群 $G$ の単位元を $e$ と書く。
$H,K$ を $G$ の部分群、$x\in G$ とする。部分集合
$$
HxK:=\{hxk\mid h\in H,\ k\in K\}
$$
を $x$ の $(H,K)$ に関する 両側剰余類(double coset)という。$(H,K)$ に関する両側剰余類の全体を $H\backslash G/K$ と書く。$H=K$ のときは、単に $H$ の両側剰余類という。
特別な場合を見ておく。$H=\{e\}$ なら $HxK=xK$ は左剰余類、$K=\{e\}$ なら $HxK=Hx$ は右剰余類である。$x=e$ なら $HeK=HK$ であり、これは $HK=KH$ のときに限って部分群になる(一般には部分群でない)。$K$ が正規部分群なら $xK=Kx$ なので $HxK=HKx$ となり、両側剰余類は部分群 $HK$ の右剰余類にほかならない。
$H,K$ を $G$ の部分群とする。
1:$x=exe\in HxK$ なので反射律が成り立つ。$y=hxk$ なら $x=h^{-1}yk^{-1}\in HyK$ なので対称律が成り立つ。$y=hxk$、$z=h'yk'$ なら $z=(h'h)x(kk')\in HxK$ なので推移律が成り立つ。$H,K$ が積と逆元で閉じていることを使った。$x$ の同値類は定義により $HxK$ である。残りは同値類の一般的な性質による(同値関係 の記事の定理「同値関係と分割の対応」)。
2:1 により、$y\in HxK$ は $y$ と $x$ が同じ同値類に属すること、すなわち $HyK=HxK$ と同値である。
3:定義から $HxK=\bigcup_{h\in H}\{hxk\mid k\in K\}=\bigcup_{h\in H}hxK$ である。右剰余類についても同様である。
4:$(hxk)^{-1}=k^{-1}x^{-1}h^{-1}$ であり、$h,k$ がそれぞれ $H,K$ を動くとき $h^{-1},k^{-1}$ も $H,K$ 全体を動くので、$g\mapsto g^{-1}$ は $HxK$ を $Kx^{-1}H$ の上に写す。この写像は自分自身が逆写像である全単射なので、制限も全単射である。$HxK=HyK$ なら、その逆元の集合として $Kx^{-1}H=Ky^{-1}H$ なので、対応は代表元によらない。逆向きの対応も同じ形なので全単射である。$\square$
2 から、両側剰余類は代表元のとり方によらず、どの元を代表元にしてもよい。
$H$ は $K$ の左剰余類の集合 $G/K$ に、左からの積 $h\cdot(yK):=hyK$ で作用する(剰余類 の記事の注意「剰余類への作用」)。両側剰余類は、この作用の軌道そのものである。
$H,K$ を群 $G$ の部分群、$x\in G$ とする。
1:左剰余類 $yK$ が $HxK$ に含まれるとすると $y\in HxK$ なので $y=hxk$ と書け、$yK=hxkK=hxK$ は $xK$ の $H$ 軌道に属する。逆に $hxK\subseteq HxK$ は明らかである。よって $HxK$ に含まれる左剰余類の全体は $H\cdot xK$ であり、prop-dcs-partition の 3 により $HxK$ はその和集合である。$HxK$ と $HyK$ が異なれば交わらないので、それぞれに含まれる左剰余類の集合も交わらず、対応する軌道は異なる。すべての軌道は $H\cdot yK$ の形なので $HyK$ の像であり、対応は全単射である。
2:$h\in H$ について、$hxK=xK$ は $x^{-1}hx\in K$、すなわち $h\in xKx^{-1}$ と同値である(剰余類 の記事の命題「剰余類による分割」の 2)。よって安定化群は $H\cap xKx^{-1}$ である。群の作用 の記事の定理「軌道・安定化群定理」により、軌道 $H\cdot xK$ の元の個数(濃度)は $[H:H\cap xKx^{-1}]$ に等しく、1 によりこれが $HxK$ に含まれる左剰余類の個数である。
3:$HxK$ は互いに交わらない $[H:H\cap xKx^{-1}]$ 個の左剰余類の和集合であり、各左剰余類は $|K|$ 個の元をもつ。$H$ が有限なので Lagrange の定理により $[H:H\cap xKx^{-1}]=|H|/|H\cap xKx^{-1}|$ である(Lagrangeの定理)。後半は、prop-dcs-partition の 4 により $|HxK|=|Kx^{-1}H|$ であり、前半を $(K,H,x^{-1})$ に当てると $|Kx^{-1}H|=[K:K\cap x^{-1}Hx]\,|H|$ となることから従う。$\square$
3 の 2 つの式が一致することは、$|H\cap xKx^{-1}|=|x^{-1}Hx\cap K|$(共役 $g\mapsto x^{-1}gx$ による全単射)からも確かめられる。
$H,K$ を群 $G$ の部分群とし、$R\subseteq G$ を各両側剰余類からちょうど 1 つずつ代表元を選んだ集合とする。このとき(濃度の等式として)
$$
[G:K]=\sum_{x\in R}[H:H\cap xKx^{-1}]
$$
が成り立つ。$G$ が有限なら $|G|=\sum_{x\in R}|H|\,|K|/|H\cap xKx^{-1}|$ である。
thm-dcs-orbit の 1 により、$G/K$ は $H$ 軌道 $H\cdot xK$($x\in R$)の交わりのない和集合であり、同 2 により各軌道の元の個数は $[H:H\cap xKx^{-1}]$ である。後半は prop-dcs-partition の 1 と thm-dcs-orbit の 3 による。$\square$
この公式は、左剰余類による分解 $|G|=[G:K]\,|K|$(Lagrangeの定理)の精密化である。第 1 式の各項 $[H:H\cap xKx^{-1}]$ は($H$ が有限なら)$|H|$ の約数である。第 2 式の各項 $|H|\,|K|/|H\cap xKx^{-1}|$ は $|HxK|$ に等しく(thm-dcs-orbit の 3)、$|H|$ と $|K|$ の両方の倍数である。
$G$ を有限群、$P$ をその Sylow $p$ 部分群、$Q$ を $p$ 部分群とする。cor-dcs-formula を $(H,K)=(Q,P)$ に当てると、左辺 $[G:P]$ は $p$ で割り切れず、右辺の各項 $[Q:Q\cap xPx^{-1}]$ は $p$ 群 $Q$ の部分群の指数なので $p$ の冪である。したがって値が $1$ の項があり、その $x$ について $Q\subseteq xPx^{-1}$ となる。これは Sylowの定理 の記事の定理「Sylowの定理の主張」の 2(包含)であり、同記事の証明($Q$ の $G/P$ への作用の固定点を探す)を両側剰余類の言葉で述べ直したものである。
両側剰余類は、2 つの剰余類の集合の組に $G$ が同時に作用するときの軌道とも一致する。この見方では $H$ と $K$ が対等に現れる。
$H,K$ を群 $G$ の部分群とし、$G$ を $X:=G/H\times G/K$ に $g\cdot(yH,zK):=(gyH,gzK)$ で作用させる。
1:まず、$X$ のどの $G$ 軌道も第 1 成分が $H=eH$ の点を含む。実際 $(yH,zK)=y\cdot(H,y^{-1}zK)$ である。次に、第 1 成分が $H$ の 2 点 $(H,xK)$ と $(H,x'K)$ が同じ $G$ 軌道に属するのは、$gH=H$ かつ $gxK=x'K$ となる $g$ があるとき、すなわち $x'K=gxK$ となる $g\in H$ があるときであり、これは $x'K$ が $xK$ の $H$ 軌道に属することと同値である。thm-dcs-orbit の 1 により、これは $Hx'K=HxK$ と同値である。この同値の「$\Leftarrow$」から写像は代表元によらず、「$\Rightarrow$」から単射であり、最初の注意から全射である。
2:群の作用 の記事の命題「軌道の個数の公式」を $G$ の $X$ への作用に当てる。$g$ が $X$ で動かさない点は、$G/H$ で動かさない点と $G/K$ で動かさない点の組なので、その個数は $\pi_H(g)\pi_K(g)$ である。1 により軌道の個数は $|H\backslash G/K|$ に等しいので、最初の等式を得る。2 つ目の等式は、同じ命題を $H$ の $G/K$ への作用に当て、thm-dcs-orbit の 1 を使えばよい。$\square$
$\pi_H$ は $G$ の置換表現 $\mathbb{C}[G/H]$ の指標なので、2 の最初の式は「2 つの置換指標の内積が両側剰余類の個数に等しい」と読める。とくに $H=K\neq G$ のとき、$G$ の $G/H$ への作用が 2 重推移的(異なる 2 点の組の全体に推移的)であることは $|H\backslash G/H|=2$ と同値である。実際 1 により、$G/H\times G/H$ の $G$ 軌道が対角集合とその補集合の 2 つだけであることと同値だからである($H\neq G$ なので $G/H$ は 2 点以上あり、補集合は空でない)。
$G=S_3$、$H=K=\{e,(1\,2)\}$ とする(置換の積は右側を先に適用する)。$HeH=H$ は 2 元である。$x=(1\,3)$ では $x(1\,2)x^{-1}=(2\,3)$ なので $H\cap xHx^{-1}=\{e\}$ であり、thm-dcs-orbit の 3 により $|HxH|=2\cdot2/1=4$ である。実際 $HxH=\{(1\,3),\ (2\,3),\ (1\,2\,3),\ (1\,3\,2)\}$ で、$2+4=6$ となって $G$ が分割される。$G/H$ は 3 点で、$H$ はそのうち $H$ 自身を固定し、残りの 2 点を入れ替える。
この例の両側剰余類の大きさ $2$ と $4$ は異なり、$4$ は $|G|=6$ の約数でもない。左剰余類と違って、両側剰余類の大きさは一般にそろわず、群の位数を割るとも限らない。
$0\le k\le n$ とし、$A_0:=\{1,\dots,k\}$、$K\subseteq S_n$ を $A_0$ を $A_0$ に写す置換の全体とする($K\cong S_k\times S_{n-k}$)。$\sigma,\tau\in S_n$ について、$K\sigma K=K\tau K$ であることと $|\sigma(A_0)\cap A_0|=|\tau(A_0)\cap A_0|$ は同値である。とくに $|K\backslash S_n/K|=\min\{k,n-k\}+1$ である。
$S_n$ は $k$ 元部分集合の全体 $\mathcal{P}_k$ に $\sigma\cdot A:=\sigma(A)$ で推移的に作用し(どの $k$ 元部分集合も $A_0$ の像である)、$A_0$ の安定化群は $K$ である。軌道・安定化群定理により $\sigma K\mapsto\sigma(A_0)$ は $S_n/K$ から $\mathcal{P}_k$ への全単射で、$S_n$ の作用と両立する。よって thm-dcs-orbit の 1 により、$K\sigma K=K\tau K$ は $\sigma(A_0)$ と $\tau(A_0)$ が同じ $K$ 軌道に属することと同値である。
$K$ の元は $A_0$ と補集合 $A_0^c$ をそれぞれ保つので、$|B\cap A_0|$ は $B\in\mathcal{P}_k$ の $K$ 軌道の上で一定である。逆に $|B\cap A_0|=|B'\cap A_0|=j$ なら、$|B\cap A_0^c|=|B'\cap A_0^c|=k-j$ なので、$B\cap A_0$ を $B'\cap A_0$ に写す $A_0$ の置換と、$B\cap A_0^c$ を $B'\cap A_0^c$ に写す $A_0^c$ の置換を合わせた $K$ の元が $B$ を $B'$ に写す。よって $K$ 軌道は $j=|B\cap A_0|$ で分類される。$j$ のとりうる値は $0\le j\le k$ かつ $k-j\le n-k$ を満たす整数、すなわち $\max\{0,2k-n\}\le j\le k$ のすべてであり、その個数は $\min\{k,n-k\}+1$ である。$\square$
$n=3$、$k=1$ では $A_0=\{1\}$、$K=\{e,(2\,3)\}$ で、両側剰余類は $2$ 個である(ex-dcs-s3 と同じ形)。$k=1$ のとき $\min\{1,n-1\}+1=2$ なので、$S_n$($n\ge2$)の $\{1,\dots,n\}$ への作用は 2 重推移的である。
$F$ を体、$G=\mathrm{GL}_2(F)$、$B$ を可逆な上三角行列の全体、$w=\begin{pmatrix}0&1\\1&0\end{pmatrix}$ とすると $G=B\sqcup BwB$ である(Tits系、BN対 の記事の命題「$\mathrm{GL}_2(K)$ の標準BN対」)。$B$ の元は $(2,1)$ 成分が $0$ で、$BwB$ の元は $(2,1)$ 成分が $0$ でない。
$G/B$ は $F^2$ の 1 次元部分空間の全体(射影直線)と同一視できる($gB\mapsto$ $g$ の第 1 列が張る直線)。$B$ は直線 $F\binom10$ を固定し、それ以外の直線の全体には推移的に作用する。thm-dcs-orbit の 1 による 2 つの軌道が $B$ と $BwB$ に対応する。
$F=\mathbb{F}_q$ が $q$ 元体なら $|B|=q(q-1)^2$ であり、$B\cap wBw^{-1}$ は可逆な対角行列の全体で位数 $(q-1)^2$ である($wBw^{-1}$ は下三角行列の群)。thm-dcs-orbit の 3 により $|BwB|=q^2(q-1)^2$ で、
$$
|B|+|BwB|=q(q-1)^2(1+q)=(q^2-1)(q^2-q)=|\mathrm{GL}_2(\mathbb{F}_q)|
$$
となる。$BwB$ に含まれる $B$ の左剰余類は $[B:B\cap wBw^{-1}]=q$ 個で、射影直線の $q+1$ 点のうち固定点以外の $q$ 点にあたる。一般の $\mathrm{GL}_n$ については Bruhat分解 の記事の定理「一般線形群の Bruhat 分解」がある。
$K$ が正規部分群なら $HxK=HKx$ は部分群 $HK$ の右剰余類であり、両側剰余類の大きさはすべて等しい。たとえば加法群 $\mathbb{Z}$ で $H=2\mathbb{Z}$、$K=3\mathbb{Z}$ とすると $H+K=\mathbb{Z}$ なので、両側剰余類 $H+x+K$ は $\mathbb{Z}$ 全体の 1 つだけである。cor-dcs-formula では $[\mathbb{Z}:3\mathbb{Z}]=3=[2\mathbb{Z}:6\mathbb{Z}]$ となる(加法群では $x+K-x=K$ なので、$H\cap xKx^{-1}$ にあたるものは $H\cap K=6\mathbb{Z}$ である)。
| 外す条件 | 反例 | 成り立たなくなること |
|---|---|---|
| $K$ が部分群(prop-dcs-partition) | $G=S_3$、$H=\{e\}$、$K=\{e,(1\,2\,3)\}$(部分集合) | $eK=K$ と $(1\,2\,3)K=\{(1\,2\,3),(1\,3\,2)\}$ は $(1\,2\,3)$ を共有するのに一致せず、集合 $HxK$ は $G$ を分割しない |
| $K$ が正規部分群(大きさがすべて等しいこと) | $G=S_3$、$H=K=\{e,(1\,2)\}$(ex-dcs-s3) | 両側剰余類の大きさが $2$ と $4$ に分かれる |
| $P$ が Sylow 部分群(rem-dcs-sylow) | $G=S_3$、$p=2$、$P=\{e\}$、$Q=\{e,(1\,2)\}$ | $[G:P]=6$ が $2$ で割り切れ、$Q$ は $P$ のどの共役にも含まれない |
| $Q$ が $p$ 群(rem-dcs-sylow) | $G=S_3$、$p=3$、$P=\{e,(1\,2\,3),(1\,3\,2)\}$、$Q=\{e,(1\,2)\}$ | $P$ は正規部分群で $(1\,2)\notin P$ なので、$Q$ は $P$ のどの共役にも含まれない |
DF04 §4.1 の演習 10(p. 117)は、prop-dcs-partition と thm-dcs-orbit の内容を、左剰余類への作用を使って示す演習として与えている。
Mathpediaは寄付と、参考文献の書籍リンク(Amazonアソシエイト)の紹介料で運営されています。 支援について / 寄付する