準正規部分群

$HK=KH$ とする。$1=1\cdot1\in HK$ である。$h_1k_1,h_2k_2\in HK$ に対し、$k_1h_2\in KH=HK$ なので $k_1h_2=h'k'$（$h'\in H$、$k'\in K$）と書け、$(h_1k_1)(h_2k_2)=(h_1h')(k'k_2)\in HK$ である。また $(hk)^{-1}=k^{-1}h^{-1}\in KH=HK$ である。よって $HK$ は部分群である。
逆に $HK$ が部分群とする。$kh\in KH$ に対し $(kh)^{-1}=h^{-1}k^{-1}\in HK$ であり、$HK$ は部分群なので逆元を取って $kh\in HK$、すなわち $KH\subset HK$。また $hk\in HK$ に対し $(hk)^{-1}\in HK$ なので $(hk)^{-1}=h'k'$ と書け、$hk=(k')^{-1}(h')^{-1}\in KH$、すなわち $HK\subset KH$。よって $HK=KH$ である。$\square$

$K$ を任意の部分群とする。$n\in N$、$k\in K$ に対し、$N$ の正規性から $k^{-1}nk\in N$ なので $nk=k(k^{-1}nk)\in KN$ であり、$NK\subset KN$ を得る。同様に $knk^{-1}\in N$ から $kn=(knk^{-1})k\in NK$ であり、$KN\subset NK$ を得る。よって $NK=KN$ である。$\square$

$u^2\equiv1\pmod n$ なので $u^j$ の値（$n$ を法）は $j$ を $2$ を法として見たときに定まり、積は well-defined である。結合律は
$$ \bigl((a^ib^j)(a^kb^l)\bigr)(a^mb^p)=a^{\,i+u^jk+u^{j+l}m}\,b^{\,j+l+p},\qquad (a^ib^j)\bigl((a^kb^l)(a^mb^p)\bigr)=a^{\,i+u^j(k+u^lm)}\,b^{\,j+l+p} $$
の両者が $u^{j+l}=u^ju^l$ により一致することから従う。$a^0b^0$ は単位元である。$a^ib^j$ の逆元は $a^{-u^ji}b^j$ である。実際 $(a^{-u^ji}b^j)(a^ib^j)=a^{-u^ji+u^ji}b^{2j}=a^0b^0$、$(a^ib^j)(a^{-u^ji}b^j)=a^{i-u^{2j}i}b^{2j}=a^0b^0$ である。よって群であり、元の個数は $2n$ である。$a^kb^0\cdot a^1b^0=a^{k+1}b^0$ から帰納的に $a^k=a^kb^0$、特に $a^n=a^0b^0=1$。$b^2=a^0b^2=1$。$ba^k=(a^0b^1)(a^kb^0)=a^{uk}b$ であり、$b^{-1}=b$ なので $bab^{-1}=a^ub\cdot b=a^u$ である。$\square$

以下、補題により $a^8=b^2=1$、$ba^k=a^{5k}b$、$bab^{-1}=a^5$ であり、$G$ の元は $a^ib^j$（$0\le i\le7$、$j\in\{0,1\}$）と一意に書ける。
正規でないこと。 $ba^{-1}=a^{-5}b$ なので $aba^{-1}=a\cdot a^{-5}b=a^{-4}b=a^4b\notin H$ である。
$z:=a^4$ の性質。 $bzb^{-1}=a^{20}=a^4=z$ なので $z$ は $a$ とも $b$ とも交換し、$G$ の中心に属する。また $aba^{-1}b^{-1}=a^4b\cdot b^{-1}=z$ である。剰余群 $G/\langle z\rangle$ は $a,b$ の像で生成され、その像は交換するので $G/\langle z\rangle$ はアーベル群である。したがって任意の $x,y\in G$ に対し $xyx^{-1}y^{-1}\in\langle z\rangle=\{1,z\}$ である。
$z\in K$ の場合。 $K$ を $z$ を含む部分群とする。$k\in K$ に対し $bkb^{-1}k^{-1}\in\{1,z\}\subset K$ なので $bkb^{-1}=(bkb^{-1}k^{-1})k\in K$ である。したがって $bk=(bkb^{-1})b\in Kb$ で $bK\subset Kb$ である。また $b^{-1}=b$ なので $kb=b(bkb^{-1})\in bK$ で $Kb\subset bK$ である。よって $bK=Kb$ であり、$HK=K\cup bK=K\cup Kb=KH$ である。
$z\notin K$ の場合。 まず $G$ の元の位数を調べる。$\langle a\rangle$ は位数 $8$ の巡回群で、その部分群は $\langle a\rangle,\langle a^2\rangle,\langle a^4\rangle,\{1\}$ の四つであり、自明でない部分群はすべて $z=a^4$ を含む。よって $a^m\neq1$ なら $z\in\langle a^m\rangle$ である。特に $a^i$（$i\neq0$）が位数 $2$ になるのは $i=4$ のときに限る。$a^ib$ については $(a^ib)^2=a^i\cdot a^{5i}=a^{6i}$ であり、これが $1$ になるのは $8\mid6i$、すなわち $i\in\{0,4\}$ のときに限る。$i\notin\{0,4\}$ なら $a^{6i}\neq1$ なので $z\in\langle a^{6i}\rangle\subset\langle a^ib\rangle$ である。以上から、位数 $2$ の元は $z$、$b$、$a^4b$ の三つであり、位数 $4$ 以上の元 $x$ は必ず $z\in\langle x\rangle$ を満たす。
$K$ が $z$ を含まない部分群なら、$K$ の元はすべて位数 $2$ 以下で $K\subset\{1,b,a^4b\}$ である。$b\cdot a^4b=a^{20}b^2=a^4=z\notin K$ なので $b$ と $a^4b$ を同時には含めず、$K\in\{\{1\},\ \langle b\rangle,\ \langle a^4b\rangle\}$ である。$K=\{1\}$ と $K=H$ では明らかに $HK=KH$。$K=\langle a^4b\rangle=\{1,a^4b\}$ では $HK=\{1,b,a^4b,b\cdot a^4b\}=\{1,b,a^4b,z\}$、$KH=\{1,a^4b,b,a^4b\cdot b\}=\{1,a^4b,b,z\}$ で一致する。
以上により、任意の部分群 $K$ に対して $HK=KH$ であり、$H$ は準正規部分群である。$\square$

副正規性。 $sr^2s^{-1}=r^{-2}=r^2$ なので $r^2$ は $s$ と交換し、$r$ とも交換するから中心に属する。$M:=\{1,s,r^2,r^2s\}$ は、$s^2=1$、$(r^2)^2=1$、$r^2s=sr^2$、$(r^2s)^2=r^2sr^2s=r^4s^2=1$ により積で閉じ、逆元でも閉じる（各元が自分自身の逆元）ので、位数 $4$ の部分群である。指数 $2$ の部分群は正規である：$[G:M]=2$ なら $g\notin M$ に対し左剰余類は $M$ と $gM=G\setminus M$、右剰余類は $M$ と $Mg=G\setminus M$ なので $gM=Mg$、$g\in M$ なら $gM=M=Mg$。よって $[D_8:M]=2$、$[M:H]=2$ から $H\trianglelefteq M\trianglelefteq D_8$ であり、$H$ は副正規部分群である。
準正規でないこと。 $K:=\langle rs\rangle$ とする。$(rs)^2=rsrs=r(srs^{-1})s^2=r\cdot r^{-1}=1$ なので $K=\{1,rs\}$ である。$HK=\{1,s,rs,s\cdot rs\}$ であり、$s\cdot rs=(srs^{-1})s^2=r^{-1}$ なので $HK=\{1,s,rs,r^{-1}\}$ である。$HK$ は $r^{-1}$ を含むが $(r^{-1})^2=r^2$ を含まない（$r^2\notin\{1,s,rs,r^{-1}\}$ は元の一意な表示から分かる）ので部分群でなく、prop-quasinormal-subgroup-criterion により $HK\neq KH$ である。よって $H$ は準正規部分群ではない。$\square$