Peter–Weylの定理

1：$\int\!\!\int\lvert\varphi(xy^{-1})\rvert^2\,dx\,dy=\int\!\!\int\lvert\varphi(x)\rvert^2\,dx\,dy=\|\varphi\|_2^2$ なので、Hilbert–Schmidt作用素 の定理「積分作用素との一致」により $T_\varphi$ は Hilbert–Schmidt ノルム $\|\varphi\|_2$ の Hilbert–Schmidt 作用素であり、同記事の定理「Hilbert–Schmidt作用素の基本性質」の 3 によりコンパクトである。

2：Cauchy–Schwarz の不等式と $\int\lvert\varphi(xy^{-1})\rvert^2dy=\|\varphi\|_2^2$ から上の評価が出る。連続性：$\varepsilon>0$ に対し、$ab^{-1}\in W$ なら $\lvert\varphi(a)-\varphi(b)\rvert<\varepsilon$ となる $e$ の開近傍 $W$ がある（Kna16a Proposition 6.6、p. 219）。$xx'^{-1}\in W$ なら $(xy^{-1})(x'y^{-1})^{-1}=xx'^{-1}\in W$ なので、$\lvert(T_\varphi f)(x)-(T_\varphi f)(x')\rvert\le\varepsilon\|f\|_1\le\varepsilon\|f\|_2$ である。

3：$(T_\varphi R(g)f)(x)=\int\varphi(xy^{-1})f(yg)\,dy$ で $y$ を $yg^{-1}$ に置き換えると $\int\varphi(xgy^{-1})f(y)\,dy=(T_\varphi f)(xg)$ となる。

4：$\overline{k(y,x)}=\overline{\varphi(yx^{-1})}=\varphi^\dagger(xy^{-1})=k(x,y)$ なので、Fubini の定理により $\langle T_\varphi f,h\rangle=\langle f,T_\varphi h\rangle$ である。

5：逆元をとる写像は同相なので、$V:=U\cap U^{-1}$ は $V=V^{-1}\subset U$ となる $e$ の開近傍である。コンパクト Hausdorff 空間は正規なので、Urysohnの補題 により $0\le\psi\le1$、$\psi(e)=1$、$V$ の外で $0$ となる $\psi\in C(G)$ がある。$\psi(x)+\psi(x^{-1})$ は $e$ の近くで正なので積分は正であり（空でない開集合の Haar 測度は正）、積分で割ったものを $\varphi_U$ とする。$f\in C(G)$ なら $(\varphi_U*f)(x)-f(x)=\int_V\varphi_U(y)\bigl(f(y^{-1}x)-f(x)\bigr)dy$ で、$y\in V$ なら $(y^{-1}x)x^{-1}=y^{-1}\in V\subset U$ なので、$U$ を Kna16a Proposition 6.6 の近傍の中にとれば一様に $\varepsilon$ 以下である。$\varphi_U*f=\int\varphi_U(y)\,L(y)f\,dy$ なので $\|\varphi_U*f\|_2\le\|\varphi_U\|_1\|f\|_2=\|f\|_2$ であり、$C(G)$ は $L^2(G)$ で稠密なので（Sal20 Theorem 4.15、p. 121）、$L^2$ の場合は $\varepsilon/3$ の議論で従う。$\square$

$E$ の基底 $f_1,\dots,f_m$（連続な代表）をとり、$R(g)f_j=\sum_i\sigma_{ij}(g)f_i$ と書く。$\sigma$ は $E$ の上の表現で、$g\mapsto R(g)f_j$ が $L^2$ で連続なので、$E$ の上の線形な座標関数を通して各 $\sigma_{ij}$ は連続である。両辺は $x$ の連続関数で $L^2$ の元として等しいので、すべての $x$ で $f_j(xg)=\sum_i\sigma_{ij}(g)f_i(x)$ が成り立つ（差が $0$ でない点の近くの開集合は正の測度をもつ）。$x=e$ とおくと $f_j(g)=\sum_if_i(e)\sigma_{ij}(g)$ であり、右辺は有限次元表現 $\sigma$ の行列成分の線形結合なので $f_j\in\mathcal{A}(G)$ である。$\square$

Schur の直交関係により族は正規直交系で、その線形包は $\mathcal{A}(G)$ に等しい。1 により稠密なので、Hilbert空間 の定理「完全正規直交系の特徴づけとParsevalの等式」により正規直交基底である。$V_\pi$ の正規直交基底 $(e_j)$ の双対基底を $(e_i^*)$、$e_i^*(w)=\langle e_i,w\rangle$ とすると、$\Phi(e_j\otimes e_i^*)=\sqrt{d_\pi}\,\pi_{ij}$ なので、$\Phi$ は正規直交基底 $(e_j\otimes e_i^*)$ をこの基底へ写し、ユニタリである。$R(h)\Phi(v\otimes\lambda)(x)=\sqrt{d_\pi}\lambda(\pi(x)\pi(h)v)$、$L(g)\Phi(v\otimes\lambda)(x)=\sqrt{d_\pi}\lambda(\pi(g)^{-1}\pi(x)v)$ から二つの等式が出る。$\square$

$f\in C(G)$ に対し、$u\mapsto\int f(x)\langle u,\rho(x)v\rangle dx$ は有界な共役線形汎関数なので、Riesz の表現定理により $\langle u,\rho(f)v\rangle=\int_Gf(x)\langle u,\rho(x)v\rangle\,dx$ となる有界作用素 $\rho(f)$ が定まり、$\|\rho(f)\|\le\|f\|_1$ である。

段 1．$v\neq0$ とする。$\lvert\langle u,\rho(\varphi_U)v-v\rangle\rvert\le\int\varphi_U(x)\lvert\langle u,\rho(x)v-v\rangle\rvert dx$ から $\|\rho(\varphi_U)v-v\|\le\sup_{x\in U}\|\rho(x)v-v\|$ であり、強連続性により $U$ を小さくすると $0$ に近づく。よって $\rho(\varphi)v\neq0$ となる $\varphi=\varphi_U$ がある。1 により $\sup\lvert\varphi-h\rvert<\|\rho(\varphi)v\|/(2\|v\|)$ となる $h\in\mathcal{A}(G)$ をとると、$\|\rho(\varphi)v-\rho(h)v\|\le\|\varphi-h\|_1\|v\|$ から $\rho(h)v\neq0$ である。

段 2．$h$ は有限個の $\pi\in\widehat G$ の成分の線形結合なので、それらの $M_\pi$（$\pi_{ij}$ の張る空間）の和 $S$ に入る。$\pi_{ij}(g^{-1}x)=\sum_k\pi_{ik}(g^{-1})\pi_{kj}(x)$ なので $S$ は有限次元で $L$ で不変である。$s\in S$ について $\langle u,\rho(g)\rho(s)v\rangle=\int s(x)\langle u,\rho(gx)v\rangle dx=\int s(g^{-1}y)\langle u,\rho(y)v\rangle dy$ なので $\rho(g)\rho(s)v=\rho(L(g)s)v$ である。よって $W:=\{\rho(s)v\mid s\in S\}$ は $0$ でない有限次元の不変部分空間であり、次元が最小の $0$ でない不変部分空間をとれば既約である。

段 3．互いに直交する有限次元の既約な不変部分空間の族を包含で順序づけると、鎖の和は上界なので、Zornの補題 により極大な族がある。その和の閉包を $K$ とする。$\rho(g)^*=\rho(g^{-1})$ なので $K^\perp$ も閉じた不変部分空間である。$K^\perp\neq\{0\}$ なら、$\rho$ を $K^\perp$ に制限して段 1・2 を当てると $K^\perp$ の中に有限次元の既約な不変部分空間があり、極大性に反する。よって $H=K$ である。$\rho$ が既約なら、族の各部分空間は $0$ でない閉じた不変部分空間なので $H$ に等しく、$H$ は有限次元である。$\square$

有限個の $\pi_1,\dots,\pi_r\in\widehat G$ について $N(\pi_1,\dots,\pi_r):=\bigcap_s\ker\pi_s$ は $G$ の閉部分群なので、Lie群 の定理「閉部分群定理（Cartan）」により部分多様体で、コンパクトな Lie 群である。コンパクトな多様体の連結成分は開かつコンパクトなので有限個である。閉部分群 $N'\subsetneq N$ の次元が同じなら、$N'$ は $N$ の同じ次元の部分多様体なので $N$ の開集合であり、$N$ の連結成分のいくつかの和になるから、連結成分の個数は $N$ より少ない。よって（次元、連結成分の個数）は真に小さくなるたびに辞書式順序で減り、無限に減り続けることはない。したがって $N:=N(\pi_1,\dots,\pi_r)$ がそれ以上小さくならない有限個の $\pi_s$ がある。$g\in N$、$g\neq e$ なら、前の節の終わりで述べた点の分離により $\pi(g)\neq I$ となる $\pi\in\widehat G$ があり、$N(\pi_1,\dots,\pi_r,\pi)\subsetneq N$ となって矛盾する。よって $N=\{e\}$ で、$\pi:=\pi_1\oplus\cdots\oplus\pi_r$ は $n=\sum d_{\pi_s}$ 次のユニタリ表現として単射である。コンパクト空間から Hausdorff 空間への連続な単射は像への同相写像で、像はコンパクトなので閉である。$\square$

1：$t_\theta^{-1}z=(e^{-i\theta}z_1,e^{i\theta}z_2)$ なので、単項式 $z_1^kz_2^{n-k}$ は $\pi_n(t_\theta)$ の固有値 $e^{i(n-2k)\theta}$ の固有ベクトルである。$\theta=\pi/(n+1)$ ではこの $n+1$ 個の固有値は相異なるので、不変部分空間 $W\neq\{0\}$ は、そこに含まれる単項式で張られる。$r_\alpha:=\begin{pmatrix}\cos\alpha&-\sin\alpha\\\sin\alpha&\cos\alpha\end{pmatrix}\in\mathrm{SU}(2)$ について $\pi_n(r_\alpha)(z_1^kz_2^{n-k})=(z_1\cos\alpha+z_2\sin\alpha)^k(-z_1\sin\alpha+z_2\cos\alpha)^{n-k}$ の $z_1^n$ の係数 $\cos^k\alpha(-\sin\alpha)^{n-k}$ は $0<\alpha<\pi/2$ で $0$ でないので、$z_1^n\in W$ である。さらに $\pi_n(r_\alpha)z_1^n=(z_1\cos\alpha+z_2\sin\alpha)^n$ はすべての単項式を $0$ でない係数で含むので、$W=V_n$ である。

2：$g$ は $\mathrm{SU}(2)$ の中で $t_\theta$ と共役であり（特殊ユニタリ群 の命題「$\mathrm{SU}(n)$ の中の共役」）、指標は共役で変わらない。$\chi_n(t_\theta)=\sum_{k=0}^ne^{i(n-2k)\theta}$ を等比数列の和として計算すればよい。

3（積分の公式）：$g$ を $(\operatorname{Re}\alpha,\operatorname{Im}\alpha,\operatorname{Re}\beta,\operatorname{Im}\beta)\in S^3\subset\mathbb{R}^4$ と同一視する。上の形の行列全体 $Q$ は実 4 次元の線形空間で、$\det X$ は $X$ の座標の 2 乗和であり、$X\neq0$ なら $X/\sqrt{\det X}\in\mathrm{SU}(2)$ である。よって $a,b\in\mathrm{SU}(2)$ について $X\mapsto aXb$ は $Q$ から $Q$ への線形写像で $\det$ を保つので $O(4)$ の元であり、$S^3$ の正規化した表面積測度 $\sigma$ を保つ。よって $\sigma$ は左不変な確率測度で、Haar測度 の定理「コンパクト群のHaar測度の一意性」により $dx=\sigma$ である。座標を $(\cos\theta,\ \omega\sin\theta)$（$0\le\theta\le\pi$、$\omega\in S^2$）と書くと表面積要素は $\sin^2\theta\,d\theta\,d\omega$ で、全表面積は $2\pi^2$ である。$g$ の固有値は $e^{\pm i\theta}$（$\cos\theta=\operatorname{Re}\alpha$）なので、類関数（共役で不変な関数）$f\in C(\mathrm{SU}(2))$ について

$\displaystyle\int_{\mathrm{SU}(2)}f\,dx=\frac{2}{\pi}\int_0^\pi f(t_\theta)\sin^2\theta\,d\theta$

である。3（分類）：既約表現 $\pi$ がどの $\pi_n$ とも同値でないとする。$\pi$ を $\{t_\theta\}\cong\mathbb{T}$ に制限すると 1 次元の表現 $e^{im\theta}$ の和に分かれるので、$\varphi(\theta):=\chi_\pi(t_\theta)$ は三角多項式である。$w=\begin{pmatrix}0&-1\\1&0\end{pmatrix}\in\mathrm{SU}(2)$ について $wt_\theta w^{-1}=t_{-\theta}$ なので $\varphi$ は偶関数で $\cos m\theta$ の和であり、$\varphi(\theta)\sin\theta=\sum_{k\ge1}b_k\sin k\theta$（有限和）と書ける。同値でない既約表現の指標は直交するので（コンパクト群 の節「Schur の直交関係」の末尾）、積分の公式と 2 から $0=\int\chi_\pi\overline{\chi_n}\,dx=\frac2\pi\int_0^\pi\varphi(\theta)\sin\theta\,\sin(n+1)\theta\,d\theta=b_{n+1}$ がすべての $n\ge0$ で成り立つ。よって $\varphi(\theta)\sin\theta\equiv0$ で、$0<\theta<\pi$ で $\varphi=0$、連続性から $d_\pi=\varphi(0)=0$ となり矛盾する。$\pi_n$ どうしは次元が違うので同値でない。分解は thm-pw-main の 2 による。$\square$