Hilbertの第3問題

各 $A_i$ を凸多面体の和集合に書き、現れるすべての凸多面体を定める閉半空間の境界平面を $H_1,\dots,H_r$ とする。$\mathbb{R}^3\setminus(H_1\cup\cdots\cup H_r)$ の点 $y$ に、各 $H_s$ のどちら側にあるかの符号の列を対応させる。同じ符号の列をもつ点の集合は開半空間の共通部分なので凸な開集合で、符号の列は有限通りである。これらの集合のうち有界で空でないものの閉包を $C_1,\dots,C_N$ とする。各 $C_j$ は有界な閉半空間の共通部分で内部が空でないので凸多面体である。

符号の列が違う 2 つの集合 $U_j,U_{j'}$ では、ある $H_s$ について $U_j$ は開半空間の一方に、$U_{j'}$ は他方にあるので、$U_j$ と $\overline{U_{j'}}=C_{j'}$ は交わらない。$C_j$ の内部は $U_j$ に等しい（$C_j$ の内部の点で $H_s$ 上にあるものがあれば、その近くに $H_s$ の反対側の点が $C_j$ に入り、$C_j\subset\overline{U_j}$ が $H_s$ の片側の閉半空間に含まれることに反する）。よって最後の主張が成り立ち、とくに内部は互いに交わらない。

$A_i$ に現れる凸多面体 $K$ をとる。$K$ の内部から平面 $H_1,\dots,H_r$ を除いた集合は $K$ の内部で稠密であり（平面は内点をもたない閉集合である）、$K$ は内部の閉包なので、$K$ はこの集合の閉包に等しい。この集合の点 $y$ を含む $U_j$ は、$K$ を定めるどの平面についても $y$ と同じ側の開半空間に含まれるので、$K$ の内部に含まれ、とくに有界である。よって $K$ は、$U_j\subset K$ となる $j$ についての $C_j$ の和集合に等しい。$A_i$ はそのような $K$ の和集合である。$\square$

反射律と対称律は定義から明らかである。$P\sim Q$ が $P_i$、$Q_i=g_i(P_i)$（$1\le i\le m$）で、$Q\sim R$ が $Q'_j$、$R_j=h_j(Q'_j)$（$1\le j\le n$）で与えられているとする。lem-h3-refine を $Q_1,\dots,Q_m,Q'_1,\dots,Q'_n$ に使い、得られた凸多面体のうち $Q$ に含まれるものを $C_1,\dots,C_N$ とする。$Q$ は $C_k$ たちの和集合であり、各 $C_k$ はちょうど 1 つの $Q_i$ とちょうど 1 つの $Q'_j$ に含まれる（$C_k$ の内部は、$C_k$ を含まない片とは交わらず、$Q_i$ たちの内部は互いに交わらないから）。$C_k\subset Q_i\cap Q'_j$ のとき $P$ の片として $g_i^{-1}(C_k)$、$R$ の片として $h_j(C_k)$ をとると、どちらも $C_k$ と合同で、$g_i^{-1}$ と $h_j$ は内部を内部に移すので、それぞれ $P$、$R$ の分割になる。よって $P\sim R$ である。$\square$

$\{\ell\}$ は $\mathbb{Q}$ 上のベクトル空間 $\mathbb{R}$ で線形独立なので、Hamel基底 の定理「Hamel 基底の存在」により $\ell$ を含む Hamel 基底がとれる。$\ell$ の係数を取り出す写像を $f\colon\mathbb{R}\to\mathbb{Q}$ とすると、$f$ は $\mathbb{Q}$ 線形で $f(\ell)=1$ である。同じく $[\theta]\neq0$ なので、$\mathbb{Q}$ 線形写像 $g\colon\mathbb{R}/\pi\mathbb{Q}\to\mathbb{Q}$ で $g([\theta])=1$ となるものがある。$(x,y)\mapsto f(x)g(y)$ は $\mathbb{Q}$ 双線形なので、テンソル積の普遍性により $\mathbb{Q}$ 線形写像 $\mathcal{V}\to\mathbb{Q}$ で $x\otimes y\mapsto f(x)g(y)$ となるものがある。これは $\ell\otimes[\theta]$ を $1$ に送るので、$\ell\otimes[\theta]\neq0$ である。$\square$

段 1（$F$ のとり方）。$F$ を、$K\cap L$ の端点（$K\cap L$ は線分・1 点・空のいずれか）と、平面 $\{a_i\cdot y=b_i\}$ のうち $L$ を含まないものと $L$ との交点を集めた集合とする。各平面は $L$ と高々 1 点で交わるので、$F$ は有限である。$L\setminus F$ の連結成分の上では、各 $i$ について $a_i\cdot y-b_i$ の符号が一定である（$L$ を含む平面では恒等的に $0$、含まない平面では成分の中で $0$ にならない）。

段 2（局所的な形）。$x\in K$ について $I(x):=\{i\mid a_i\cdot x=b_i\}$、$C_x:=\{y\mid a_i\cdot(y-x)\le0\ (i\in I(x))\}$ とおく。$i\notin I(x)$ では $a_i\cdot x< b_i$ で、連続性から $x$ の近くでも成り立つので、ある $\rho>0$ で $K\cap B_\rho(x)=C_x\cap B_\rho(x)$ である。

段 3（場合分け）。$x\in L\setminus F$ とする。$x\notin K$ なら $K$ は閉集合なので小さい $r$ で $K\cap D_r(x)=\emptyset$、$\alpha=0$ である。$x$ が $K$ の内部の点なら小さい $r$ で $D_r(x)\subset K$、$\alpha=2\pi$ である。$x$ が境界の点なら $I(x)\neq\emptyset$ で、$x\notin F$ なので $i\in I(x)$ の平面はすべて $L$ を含む。すると $C_x$ は $L$ の方向に平行移動しても変わらず、$S_x:=C_x\cap\Pi_x$ は $x$ を頂点とする $\Pi_x$ の閉凸錐（$x$ を通る直線で区切られた閉半平面の共通部分）である。$x$ を通る直線で区切られた閉半平面を 1 つ以上集めた共通部分は、半平面か、中心角 $\theta\in(0,\pi)$ の扇形状の領域か、面積 $0$ の集合（点・半直線・直線）である。$r<\rho$ で $K\cap D_r(x)=S_x\cap D_r(x)$ なので、$\alpha_K(L,x)$ は $S_x$ の中心角（半平面なら $\pi$、面積 $0$ なら $0$）に等しい。$I(x)$ は成分の上で一定なので（段 1）、$\alpha$ も一定である。

段 4（辺になる場合）。中心角が $0<\theta<\pi$ のときは、$S_x$ を区切る直線は少なくとも 2 本で向きが違うので、$I(x)$ の平面のうち法線の向きが違う 2 枚がともに $L$ を含み、それらの共通部分は $L$ である。$c:=\sum_{i\in I(x)}a_i$、$\delta:=\sum_{i\in I(x)}b_i$ とおくと、$K$ 上で $c\cdot y\le\delta$ で、等号は $I(x)$ のすべての不等式が等号のときに限るので、面 $K\cap\{c\cdot y=\delta\}$ は $K\cap L$ に等しい。これは $x$ を含む線分（段 1 により $x$ のまわりの成分を含む）なので 1 次元で、$K\cap L$ は辺である。以上で、辺でない場合には $\alpha\in\{0,\pi,2\pi\}$ であること、つまり 2 が示された。

逆に $K\cap L$ が辺 $e$ で $x$ が $e$ の端点でない点とする。$L$ を含まない平面 $\{a_i\cdot y=b_i\}$ が $x$ を通れば、$L$ の上で $a_i\cdot y-b_i$ は $x$ で符号を変えるので、$x$ の片側の $e$ の点が $K$ の外に出てしまう。よって $x\in L\setminus F$ であり、$e$ の端点でない点の全体は $L\setminus F$ の 1 つの成分で、その上で $\alpha$ は一定である。$K$ は内部の閉包なので $x$ のいくらでも近くに $K$ の内部の点があり、$S_x$ は面積 $0$ の集合でない。$S_x$ が半平面なら $C_x$ は閉半空間で、$x$ を通る $K$ の支持平面はその境界平面 $H$ だけなので、$x$ を含む面は $K\cap H$（2 次元）と $K$ 自身だけになり、$K\cap L$ が辺であることに反する。よって $S_x$ は中心角 $\theta(e)\in(0,\pi)$ の扇形状の領域である。$\square$

段 1（重なりは境界にある）．$i\neq j$ で $y\in P_i\cap P_j$ が $P_i$ の内部の点なら、$y$ の近傍 $U$ が $P_i$ に含まれる。$P_j$ は内部の閉包なので $U$ は $P_j$ の内部の点を含み、それは $P_i$ の内部の点でもあって、内部が交わらないことに反する。よって $P_i\cap P_j\subset\partial P_i$ である。凸多面体の和集合の境界は、各凸多面体の境界の和集合に含まれ、凸多面体の境界は、それを定める不等式の境界平面の和集合に含まれる（多面体 の命題「凸多面体の境界」）。よって、すべての $P_i$ に現れる凸多面体の境界平面を $H_1,\dots,H_r$ とすると、重なりはすべて $H_1\cup\cdots\cup H_r$ に含まれる。

段 2（断面の面積）．$\Pi_x$ が $H_s$ に等しくなる $x\in L$ は、各 $s$ について高々 1 つである。それらを除いた $x$ では、$\Pi_x\cap H_s$ は直線か空なので、$\Pi_x$ の中で重なりの面積は $0$ である。集合の指示関数について $\mathbf 1_P\le\sum_i\mathbf 1_{P_i}\le\mathbf 1_P+\sum_{i< j}\mathbf 1_{P_i\cap P_j}$ なので、すべての $r>0$ で $\operatorname{A}(P\cap D_r(x))=\sum_i\operatorname{A}(P_i\cap D_r(x))$ である。

段 3（角の存在）．1 つの多面体 $Q$ に lem-h3-refine を使うと、$Q$ は内部が交わらない凸多面体 $C_1,\dots,C_N$ に分割される。この分割に段 2 を使い、各 $C_k$ に lem-h3-convex-angle を使うと、有限個の点を除いて $2\operatorname{A}(Q\cap D_r(x))/r^2=\sum_k2\operatorname{A}(C_k\cap D_r(x))/r^2$ の各項が $r\to+0$ で収束し、その極限は成分の上で一定である。よって $\alpha_Q(L,x)$ は有限個の点を除いて存在し、局所的に一定である。これを $P$ と各 $P_i$ に使い、例外の点をすべて $F$ に入れれば、段 2 から主張が従う。$\square$

段 1（平面の分割合同を持ち上げる）．平面の多角形 $B,B'$ が分割合同で、$B$ の分割 $B_i$、$B'$ の分割 $B'_i=g_i(B_i)$（$g_i$ は平面の合同変換）が与えられたとき、$B_i\times[0,h]$ は $B\times[0,h]$ の分割、$B'_i\times[0,h]$ は $B'\times[0,h]$ の分割で、$g_i\times\mathrm{id}$ は空間の合同変換である。よって $B\times[0,h]\sim B'\times[0,h]$ である。座標軸を入れ替える合同変換により、高さの向きは 3 つの座標軸のどれにとってもよい。

段 2（直方体にする）．$B$ の面積を $S$ とすると、Bolyai–Gerwienの定理 の定理「Bolyai–Gerwien の定理」により $B$ は長方形 $[0,S]\times[0,1]$ と分割合同なので、段 1 により $B\times[0,h]\sim[0,S]\times[0,1]\times[0,h]$ である。

段 3（立方体にする）．$c:=(Sh)^{1/3}$ とおく。$x$ 方向と $y$ 方向の長方形 $[0,S]\times[0,1]$ は、面積の等しい長方形 $[0,c]\times[0,S/c]$ と分割合同なので、段 1（高さは $z$ 方向）により直方体は $[0,c]\times[0,S/c]\times[0,h]$ と分割合同である。次に $y$ 方向と $z$ 方向の長方形 $[0,S/c]\times[0,h]$ は面積 $Sh/c=c^2$ の正方形 $[0,c]\times[0,c]$ と分割合同なので、段 1（高さは $x$ 方向）により $[0,c]^3$ と分割合同である。prop-h3-equivalence により $B\times[0,h]\sim[0,c]^3$ である。$\square$