胞体分解定理(o-極小)(cell decomposition theorem, o-minimal)とは、o-極小構造で定義可能な集合と関数が、有限個の「胞体」に分けられるという定理である。胞体は、点と開区間から始めて、定義可能な連続関数のグラフと、2 つの連続関数に挟まれた帯を作る操作で得られる集合である。定義可能集合 $X_1,\dots,X_k\subset M^n$ はどれも、$M^n$ を有限個の胞体に分ける柱状の分解のいくつかの胞体の和になり、定義可能な関数は各胞体の上で連続になるように分けられる。1 次元の場合は、定義可能な 1 変数関数が有限個の区間の上で定数か狭義単調かつ連続になるという単調性定理である。帰結として、定義可能集合は有限個の定義可能に連結な成分をもち、次元が定まり、定義可能な族のファイバーの形は一様に有限である。
胞体分解定理(cell decomposition theorem)は、o-極小構造で定義可能な集合と関数が、「胞体」と呼ばれる単純な形の集合に有限個に分けられることを述べる定理である。胞体は、1 点と開区間から始めて、連続関数のグラフと、2 つの連続関数に挟まれた帯を作る操作を繰り返して得られる集合である。o-極小性は直線 $M$ の部分集合だけについての条件だが、胞体分解定理は、その条件がすべての次元の定義可能集合の形を強く制限することを示す。1 次元の場合は、定義可能な 1 変数関数が有限個の区間の上で定数か狭義単調かつ連続になるという単調性定理である。
胞体分解定理から、定義可能集合は有限個の定義可能に連結な成分をもつこと、定義可能集合に次元が定まること、定義可能な族のファイバーの形が一様に有限であることが従う。実数体の場合は、半代数的集合の柱状分解がその原型である。この記事では、胞体と分解を定義し、単調性定理と 2 次元の胞体分解定理を完全に証明し、一般の次元の証明の骨格を所在とともに述べる。
以下、$\mathcal{M}=(M,<,\dots)$ を o-極小構造とする(o-極小構造 の定義「o-極小構造」)。$<$ は稠密で端点のない全順序であり、「定義可能」はパラメータ付きで $\mathcal{M}$ で定義可能なことを指す。$\overline{M}:=M\cup\{-\infty,+\infty\}$ と書き、$-\infty< x< +\infty$($x\in M$)と順序を延ばす。開区間は $(a,b)=\{x\in M\mid a< x< b\}$($a< b$、$a,b\in\overline{M}$)である。
$M$ には開区間を基とする順序位相を入れ、$M^n$ には積位相を入れる。開区間の積を開箱という。$\overline{M}$ には、$M$ の開区間と $[-\infty,b)$、$(a,+\infty]$ を基とする位相を入れる。$\pi\colon M^{n+1}\to M^n$ を最初の $n$ 座標への射影とし、$X\subset M^{n+1}$ と $x\in M^n$ についてファイバーを $X_x:=\{y\in M\mid(x,y)\in X\}$ と書く。定義可能集合 $X\subset M^n$ が定義可能に連結であるとは、$X$ の中で開かつ閉な定義可能集合が $\emptyset$ と $X$ だけであることをいう(o-極小構造 の節「連結性による特徴づけ」の定義と同じ)。
o-極小構造では、定義可能な空でない集合 $A\subset M$ が上に有界なら $M$ の中に上限をもつ(o-極小構造 の命題「定義可能な完備性」)。上に有界でなければ上限を $+\infty$ とおく。この記事ではこの事実を何度も使う。
$M^n$ の胞体(cell)とその次元を $n$ についての帰納法で定める。
(i) $M$ の胞体は、1 点 $\{a\}$(次元 $0$)と開区間 $(a,b)$($a,b\in\overline{M}$、次元 $1$)である。
(ii) $C\subset M^n$ を次元 $d$ の胞体とする。定義可能な連続関数 $f\colon C\to M$ のグラフ $\Gamma(f):=\{(x,f(x))\mid x\in C\}$ は $M^{n+1}$ の次元 $d$ の胞体である。$f,g$ がそれぞれ定義可能な連続関数 $C\to M$ か、定数 $-\infty$($f$ の場合)・$+\infty$($g$ の場合)で、$C$ 上で $f< g$ であるとき、帯
$$
(f,g)_C:=\{(x,y)\in C\times M\mid f(x)< y< g(x)\}
$$
は $M^{n+1}$ の次元 $d+1$ の胞体である。
(iii) 以上で得られるものだけが胞体である。
この定義は Knight–Pillay–Steinhorn による(KPS86 Definition 1.5、pp. 595–596)。実数体の場合は vdDM96 p. 12 が同じ定義を $C^p$ 級の関数で述べている。帰納法により、胞体は定義可能であり、$M^n$ の胞体 $C$ の次元は $n$ 以下で、$\dim C=n$ であることと $C$ が $M^n$ の開集合であることは同値である(KPS86 Remark 1.6、p. 596)。たとえば帯 $(f,g)_C$ は、$C$ が開集合で $f,g$ が連続なら開集合である。$M^2$ の胞体は次の 4 種類である。
| 胞体 | 形 | 次元 |
|---|---|---|
| $\{(a,b)\}$ | 1 点 | $0$ |
| $\{a\}\times(b,c)$ | 縦の開区間 | $1$ |
| $\Gamma(f)$、$f\colon(a,b)\to M$ | 区間の上の連続関数のグラフ | $1$ |
| $(f,g)_{(a,b)}$ | 区間の上の帯($f=-\infty$ や $g=+\infty$ も許す) | $2$ |
(1 点の上のグラフは 1 点、1 点の上の帯は縦の開区間である。)
$M^n$ の分解(decomposition)を $n$ についての帰納法で定める。
(i) $M$ の分解とは、$a_1< \cdots< a_k$($k\ge0$)を選んで得られる $M$ の分割
$$
\{(-\infty,a_1),(a_1,a_2),\dots,(a_k,+\infty),\{a_1\},\dots,\{a_k\}\}
$$
である($k=0$ なら $\{M\}$)。
(ii) $M^{n+1}$ の分解とは、$M^{n+1}$ を有限個の胞体に分けた分割 $\mathcal{D}$ で、射影の全体 $\{\pi(D)\mid D\in\mathcal{D}\}$ が $M^n$ の分解になるものである。
分解 $\mathcal{D}$ が集合 $X\subset M^n$ と両立するとは、各 $D\in\mathcal{D}$ について $D\subset X$ か $D\cap X=\emptyset$ であることをいう。このとき $X$ は $\mathcal{D}$ のいくつかの胞体の和である。
この定義は vdDM96 p. 12 の定義に従った(KPS86 Definition 3.3、p. 598 は「$X$ を分割する分解」を同じ意味で使う)。分解 $\mathcal{D}$ の中で、$M^n$ の分解 $\{\pi(D)\}$ の 1 つの胞体 $E$ の上にある胞体は、$E$ 上の定義可能な連続関数 $f_1< \cdots< f_m$ のグラフと、それらに挟まれた帯 $(-\infty,f_1)_E,(f_1,f_2)_E,\dots,(f_m,+\infty)_E$ である(グラフの関数どうしの大小が $E$ 全体で一定であることは、$E$ が定義可能に連結であること(prop-cdo-cell-connected)による)。この「柱」の形から、分解は柱状分解(cylindrical decomposition)とも呼ばれる。
実数体 $(\mathbb{R},+,\cdot,<)$ で、閉円板 $X=\{(x,y)\mid x^2+y^2\le1\}$ を考える。$\mathbb{R}$ の分解を点 $-1,1$ で作る。$(-1,1)$ の上では $f_1(x)=-\sqrt{1-x^2}$、$f_2(x)=\sqrt{1-x^2}$ のグラフと、それらで区切られる 3 つの帯をとる。点 $\pm1$ の上では、$\{\pm1\}\times\{0\}$ と、縦の開区間 $\{\pm1\}\times(-\infty,0)$、$\{\pm1\}\times(0,+\infty)$ をとる。区間 $(-\infty,-1)$、$(1,+\infty)$ の上では帯 $(-\infty,+\infty)$ だけをとる。これは $\mathbb{R}^2$ の分解であり、$X$ と両立する:$X$ は 2 点 $(\pm1,0)$、2 本のグラフ $\Gamma(f_1),\Gamma(f_2)$、帯 $(f_1,f_2)_{(-1,1)}$ の 5 つの胞体の和である。円周 $\{x^2+y^2=1\}$ は、そのうち 2 点と 2 本のグラフの和である。
$\mathcal{M}$ を o-極小構造とし、$n\ge1$ とする。
(I)$_n$ 定義可能集合 $X_1,\dots,X_k\subset M^n$ に対し、それらすべてと両立する $M^n$ の分解がある。
(II)$_n$ 定義可能集合 $X\subset M^n$ 上の定義可能な関数 $f\colon X\to M$ に対し、$X$ と両立する $M^n$ の分解 $\mathcal{D}$ で、$X$ に含まれる各胞体 $D\in\mathcal{D}$ の上で $f|_D$ が連続であるものがある。
(I) は、定義可能集合がどれも有限個の胞体の和になるように $M^n$ をまとめて分解できることを述べ、(II) は、定義可能関数を有限個の胞体の上でそれぞれ連続にできることを述べる。$n=1$ の o-極小性(定義可能集合が有限個の点と区間の和になること)が、高次元の定義可能集合にも引き継がれるという内容である。以下の証明は $n$ についての帰納法で、(I)・(II) と次の一様な有限性を同時に示す。
$n=1$ の (I)$_1$ は o-極小性そのものである。$X_i$ は有限個の点と開区間の和なので、それらの点と区間の端点のうち $M$ に属するものをすべて $a_1< \cdots< a_k$ とすれば、得られる $M$ の分解はすべての $X_i$ と両立する。(II)$_1$ は次の節の単調性定理から従う。この記事では $n=1,2$ の場合を完全に証明し、一般の $n$ は所在を示して骨格を述べる。証明の途中で次の一様な有限性も示す。
(III)$_n$ 定義可能集合 $A\subset M^n\times M$ で、すべての $x\in M^n$ についてファイバー $A_x$ が有限集合であるものに対し、自然数 $N$ があって、すべての $x$ について $\lvert A_x\rvert\le N$ である。
各ファイバーが有限であることは、o-極小性から $x$ ごとに分かる。(III) の主張は、その個数が $x$ によらない共通の上界で抑えられるという点にある。一般の構造では、定義可能な族のファイバーがどれも有限でも、個数が非有界になることがある。
Knight–Pillay–Steinhorn は (I)・(II)・(III) の 3 つを $n$ についての同時帰納法で証明した(KPS86 の (3.5)$_N$・(3.6)$_N$・(3.7)$_N$、p. 598)。実数体の o-極小な拡大については vdDM96 4.2、p. 12 が、関数を $C^p$ 級にとれる形で述べている。実閉体の半代数的集合の場合は BPR16 Theorem 5.6(柱状分解、p. 177)である。
この節では、区間 $I=(a,b)$($a,b\in\overline{M}$)の上の定義可能な関数を調べる。o-極小性から直ちに分かる次の事実を繰り返し使う:定義可能集合 $S\subset M$ と $c\in M$ について、$c$ のすぐ右では $S$ は「全部入る」か「全く入らない」かのどちらかである。正確には、ある $c'>c$ があって $(c,c')\subset S$ または $(c,c')\cap S=\emptyset$ となる($S$ は有限個の点と区間の和なので、それらの点と端点のうち $c$ より大きい最小のものまでをとればよい)。左側や $\pm\infty$ の近くでも同じである。また、無限個の元をもつ定義可能集合 $S\subset M$ は開区間を含む。
まず、区間は定義可能に連結である。
開区間 $I$ の定義可能な部分集合 $S$ が、$I$ の中で開かつ閉なら、$S=\emptyset$ または $S=I$ である。
要点:$S$ の点 $s$ と $S$ の外の点 $t$ があれば、$\sup\{x\mid[s,x]\subset S\}$ が $S$ に属しても属さなくても矛盾する。
$s\in S$、$t\in I\setminus S$ があるとして矛盾を導く。$s< t$ の場合を示す(逆も同様)。$e:=\sup\{x\in[s,t]\mid[s,x]\subset S\}$ とおく(定義可能な完備性により $e\in[s,t]$)。$e\in S$ なら、$S$ が開なので $e$ を含む開区間が $S$ に含まれ、$e\ne t$ だから、$e$ より少し大きい $x$ で $[s,x]\subset S$ となり、上限であることに反する。$e\notin S$ なら $e>s$ で、$I\setminus S$ が開なので、ある $e'< e$ について $(e',e]$ は $S$ と交わらない。一方、上限の定義から $x\in(e',e]$ で $[s,x]\subset S$ となるものがあり、矛盾である。$\square$
次の 2 つの補題が、単調性定理の証明の中心である。1 つ目は、「各点の右側に定まる幅」から一様な幅を取り出す。
$I=(a,b)$ を開区間とし、$g\colon I\to M\cup\{+\infty\}$ を、すべての $x\in I$ で $x< g(x)$ を満たす定義可能な関数とする。このとき開区間 $J\subset I$ で、すべての $x,y\in J$ について $y< g(x)$ となるものがある。
要点:$g$ が $a$ の近くで「左の値以上」なら $a$ の近くの小区間をとり、そうでなければ値が増え続ける点列から無限集合 $\{g>c\}$ を作る。
$B:=\{d\in I\mid$ すべての $x\in(a,d)$ について $g(x)\le g(d)\}$ は定義可能なので、ある $\alpha\in I$ について $(a,\alpha)\subset B$ または $(a,\alpha)\cap B=\emptyset$ である。
場合 1:$(a,\alpha)\subset B$。$\gamma\in(a,\alpha)$ をとり、$\gamma< \delta< \alpha$ かつ $\delta< g(\gamma)$ となる $\delta$ を選ぶ($g(\gamma)>\gamma$ と順序の稠密性による)。$J:=(\gamma,\delta)$ とする。$x,y\in J$ なら $x\in B$ で $\gamma\in(a,x)$ なので $g(\gamma)\le g(x)$ であり、$y< \delta< g(\gamma)\le g(x)$ である。
場合 2:$(a,\alpha)\cap B=\emptyset$。$\beta\in(a,\alpha)$ をとる。$\beta\notin B$ なので $t_0\in(a,\beta)$ で $g(t_0)>g(\beta)$ となるものがある。特に $c:=g(\beta)\in M$ で、$c>\beta$ である。$S:=\{x\in(a,\beta)\mid g(x)>c\}$ は無限集合である。実際 $t_0\in S$ であり、$t_k\in S$ があれば $t_k\in(a,\alpha)$ は $B$ に属さないので $t_{k+1}\in(a,t_k)$ で $g(t_{k+1})>g(t_k)>c$ となるものがあり、$t_0>t_1>\cdots$ は $S$ の相異なる元である。$S$ は定義可能なので開区間 $J\subset(a,\beta)$ を含む。$x,y\in J$ なら $y< \beta< c< g(x)$ である。$\square$
2 つ目は、2 点の関係についての Ramsey 型の性質である。
$I$ を開区間、$X\subset M^2$ を定義可能集合とする。開区間 $J\subset I$ で、「$x< y$ となるすべての $x,y\in J$ について $(x,y)\in X$」か「$x< y$ となるすべての $x,y\in J$ について $(x,y)\notin X$」のどちらかが成り立つものがある。
$I=(a,b)$ とする。各 $u\in I$ について、ファイバー $X_u$ は定義可能なので、ある $v>u$ で $(u,v)\subset X_u$ か $(u,v)\cap X_u=\emptyset$ となる。前者が成り立つ $u$ の集合を $Y_1$、後者を $Y_2$ とすると、$Y_1\cup Y_2=I$ で、どちらかは無限集合なので開区間 $I'$ を含む。必要なら $X$ を補集合 $M^2\setminus X$ に替えて $I'\subset Y_1$ としてよい。$u\in I'$ について
$$
g(u):=\sup\{v\in(u,b)\mid(u,v)\subset X_u\}\in M\cup\{+\infty\}
$$
とおく。$g$ は定義可能で $g(u)>u$ であり、$y\in(u,g(u))$ なら $y< v$ かつ $(u,v)\subset X_u$ となる $v$ があるので $y\in X_u$ である。lem-cdo-uniform-width を $g$ に当てはめて、開区間 $J\subset I'$ で $y< g(x)$($x,y\in J$)となるものをとる。$x< y$ が $J$ の元なら $y\in(x,g(x))$ なので $(x,y)\in X$ である。$\square$
$f\colon I\to M$ を開区間 $I$ 上の定義可能な関数とする。開区間 $J\subset I$ で、$f$ が $J$ 上で定数、狭義増加、狭義減少のいずれかであるものがある。
lem-cdo-ramsey を $X_<:=\{(x,y)\mid f(x)< f(y)\}$ に当てはめて開区間 $J_1\subset I$ をとる。$J_1$ で「$x< y\Rightarrow f(x)< f(y)$」なら $f$ は $J_1$ 上で狭義増加である。そうでなければ $J_1$ で「$x< y\Rightarrow f(x)\ge f(y)$」であり、lem-cdo-ramsey を $X_=:=\{(x,y)\mid f(x)=f(y)\}$ と $J_1$ に当てはめて開区間 $J_2\subset J_1$ をとる。$J_2$ で「$x< y\Rightarrow f(x)=f(y)$」なら $f$ は $J_2$ 上で定数であり、そうでなければ $x< y$ で $f(x)>f(y)$ となり、$f$ は $J_2$ 上で狭義減少である。$\square$
$f\colon I\to M$ が開区間 $I$ 上の定義可能な狭義増加関数なら、開区間 $J\subset I$ と開区間 $K$ で、$f|_J$ が $J$ から $K$ への順序を保つ全単射になるものがある。特に $f$ は $J$ 上で連続である。狭義減少でも同様である。
要点:像に含まれる開区間 $K$ の逆像 $J$ は開区間で、順序を保つ全単射 $J\to K$ は連続である。
$f$ は単射なので像 $f(I)$ は無限の定義可能集合であり、開区間 $K$ を含む。$J:=\{x\in I\mid f(x)\in K\}$ とおく。$x< z< y$ で $x,y\in J$ なら $f(x)< f(z)< f(y)$ なので $z\in J$、すなわち $J$ は凸な定義可能集合で、有限個の点と区間の和なので 1 つの区間である。$f(J)=K$ であり、$K$ は最大元も最小元ももたないので、$f$ が増加であることから $J$ も最大元・最小元をもたず、$J$ は開区間である。$f|_J\colon J\to K$ は順序を保つ全単射である。連続性:$x\in J$ と $f(x)$ を含む開区間 $W$ をとる。$K\cap W$ は $f(x)$ を含む開区間なので、$c< f(x)< d$ となる $c,d\in K\cap W$ があり、$c=f(x_1)$、$d=f(x_2)$($x_1< x< x_2$)と書ける。$z\in(x_1,x_2)$ なら $f(z)\in(c,d)\subset W$ である。$\square$
$f\colon I\to M$ を開区間 $I$ 上の定義可能な関数とし、各 $x\in I$ に、$x$ を含む開区間で $f$ が狭義増加であるものがあるとする。このとき $f$ は $I$ 上で狭義増加である。「狭義増加」を「定数」「狭義減少」に替えても同様である。
要点:$x$ から右へ「狭義増加が続く範囲」の上限 $e$ をとると、$e$ の近くの区間とつないで範囲を延ばせるので、$e$ は右端である。
$I=(a,b)$、$x\in I$ を固定し、$e:=\sup\{y\in(x,b)\mid f$ は $[x,y]$ 上で狭義増加$\}$ とおく。仮定からこの集合は空でない。$e< b$ とすると、$e$ を含む開区間 $(e_1,e_2)$ で $f$ は狭義増加であり、上限の定義から $y\in(\max(x,e_1),e)$ で $f$ が $[x,y]$ 上で狭義増加となるものがある。$u< v$ が $[x,y]\cup(e_1,e_2)$ の元なら、同じ部分にあれば $f(u)< f(v)$ であり、$u\in[x,y]$、$v\in(y,e_2)$ なら $f(u)\le f(y)< f(v)$ である。よって、$e< z< e_2$ となる点 $z$ をとると $f$ は $[x,z]$ 上で狭義増加であり($[x,z]\subset[x,y]\cup(e_1,e_2)$)、$e$ が上限であることに反する。したがって $e=b$ であり、$x< y$ なら $f(x)< f(y)$ である。定数・狭義減少の場合も同じ議論である。$\square$
$f\colon(a,b)\to M$ を定義可能な関数とする($a,b\in\overline{M}$)。点 $a=a_0< a_1< \cdots< a_k=b$ があって、各区間 $(a_{i-1},a_i)$ の上で $f$ は定数であるか、狭義単調かつ連続である。
点 $x\in(a,b)$ がよいとは、$x$ を含む開区間 $J$ で、$f|_J$ が定数であるか、狭義増加かつ連続であるか、狭義減少かつ連続であるものがあることをいう。よくない点の集合 $E$ は定義可能である。
$E$ は有限集合である。無限集合なら開区間 $J\subset E$ を含む。prop-cdo-monotone-piece により開区間 $J_1\subset J$ で $f$ が定数か狭義単調なものがあり、狭義単調なら lem-cdo-continuous-piece により開区間 $J_2\subset J_1$ で $f$ が連続なものがある。$J_2$(定数の場合は $J_1$)の点はよい点であり、$J\subset E$ に反する。
$E=\{a_1< \cdots< a_{k-1}\}$ とし、$a_0:=a$、$a_k:=b$ とする。1 つの区間 $I:=(a_{i-1},a_i)$ を固定し、$I$ の点のうち「$f$ がその点の近くで定数」「狭義増加かつ連続」「狭義減少かつ連続」であるものの集合を $S_=,S_<,S_>$ とする。これらは定義可能で、$I$ の開集合であり、$I$ を覆う。互いに交わらない:たとえば $x\in S_=\cap S_<$ なら、$x$ を含む 2 つの開区間の共通部分(開区間で、無限集合)の上で $f$ が定数かつ狭義増加となり、矛盾である。したがって、たとえば $S_=$ は $I$ の中で開かつ閉であり(補集合 $S_<\cup S_>$ が開)、lem-cdo-interval-connected により $S_=$ は $\emptyset$ か $I$ である。$S_<,S_>$ も同様なので、どれか 1 つが $I$ 全体である。lem-cdo-local-global により、$f$ は $I$ 上で定数か、狭義増加か、狭義減少であり、連続性は各点の近くで成り立つので $I$ 上で連続である。$\square$
この定理は Pillay–Steinhorn による(PS86 Theorem 4.2、p. 578。主要な補題は同 Lemma 4.3、p. 579 で、場合分けの議論による)。ここでの証明は、lem-cdo-uniform-width と lem-cdo-ramsey で「2 点の比較」を均質にする形に組み直したものである。狭義単調な区間では、lem-cdo-continuous-piece と同じ議論により像も開区間になる(PS86 Theorem 4.2 (c))。
$f\colon(a,b)\to M$ を定義可能な関数とすると、各 $c\in[a,b)$ で右側極限 $\lim_{x\to c+}f(x)$ が $\overline{M}$ の中に存在する。左側極限も同様である。
単調性定理により、$c$ のすぐ右の区間 $(c,c')$ で $f$ は定数か狭義単調である。狭義増加なら右側極限は下限である。
狭義増加なら $L:=\inf f((c,c'))\in\overline{M}$(定義可能な完備性。下に有界でなければ $-\infty$)とおく。$L$ を含む $\overline{M}$ の開区間 $(p,q)$(または $[-\infty,q)$)に対し、下限の定義から $f(x_1)< q$ となる $x_1\in(c,c')$ があり、$x\in(c,x_1)$ なら $L\le f(x)\le f(x_1)< q$ である。よって $f(x)\to L$ である。減少なら上限をとり、定数なら明らかである。$\square$
以上で (II)$_1$ も得られた。$X\subset M$ 上の $f$ について、(I)$_1$ の分解の各区間に単調性定理を当てはめて分点を加えればよい。
$I$ を開区間とし、$A\subset I\times M$ を定義可能集合で、すべての $x\in I$ について $A_x$ が有限集合であるものとする。自然数 $N$ があって、すべての $x\in I$ について $\lvert A_x\rvert\le N$ である。
証明のために、点の「よさ」を定める。$(x,y)\in I\times\overline{M}$ が $A$ について正常であるとは、$x$ を含む開区間 $J\subset I$ と、$y$ を含む $\overline{M}$ の開区間 $K$ があって、$A\cap(J\times K)$ が空集合であるか、連続関数 $J\to K\cap M$ のグラフであることをいう。この定義は KPS86 Definition 3.4(p. 598)の「よい点」に $\pm\infty$ を加えたものである。$(x,y)$ が正常なら、同じ $J\times K$ によって $(x,y')$($y'\in K$)も正常である。
$y\notin A_x$ で $(x,y)$ が正常なら、$A$ と交わらない $J\times K$ がとれる。実際、$A\cap(J\times K)$ が連続関数 $\varphi$ のグラフなら、$\varphi(x)\ne y$ なので、$y$ を含む開区間 $K'\subset K$ と $\varphi(x)$ を含む開区間 $W$ を交わらないようにとり、$J':=\{x'\in J\mid\varphi(x')\in W\}$ の中で $x$ を含む開区間をとると、$A\cap(J'\times K')=\emptyset$ となる。
証明は 2 段からなる。段 1:$E:=\{x\in I\mid$ ある $y\in\overline{M}$ で $(x,y)$ が正常でない$\}$ は有限集合である。段 2:$I\setminus E$ に含まれる各開区間の上で $\lvert A_x\rvert$ は一定である。$I\setminus E$ は有限個の開区間の和なので、2 つを合わせると $\lvert A_x\rvert$ は有限個の値しかとらない。段 1 では、正常でない点の最小のもの $\beta(x)$ と、その上下で最も近い $A_x$ の点 $l(x),u(x)$ を単調性定理で連続にすると、$(x,\beta(x))$ が正常になってしまうことを示す。段 2 では、個数が増える方向の点列の極限が正常な点になり、そのまわりに $A$ の点がないことに反することを示す。
$E$ が無限集合だとすると、開区間 $I_1\subset E$ を含む。$x\in I_1$ について、正常でない $y$ の集合は $\overline{M}$ の空でない閉集合で定義可能なので、最小元 $\beta(x)$ をもつ(下限をとり、閉であることを使う)。$A_x$ は有限なので
$$l(x):=\max\{y\in A_x\mid y< \beta(x)\},\qquad u(x):=\min\{y\in A_x\mid y>\beta(x)\}$$
(該当する元がなければ $-\infty$、$+\infty$)が定まり、$\beta,l,u$ は定義可能である。「$\beta,l,u$ が $\pm\infty$ をとるか」「$\beta(x)\in A_x$ か」で $I_1$ を有限個の定義可能集合に分けると、そのどれかが開区間 $I_2$ を含む。$\beta,l,u$ のうち $M$ に値をとるものに単調性定理を当てはめ、開区間 $I_3\subset I_2$ で $\beta,l,u$ がすべて連続になるものをとる。$x_0\in I_3$ とし、$\beta(x_0)$ を含む $\overline{M}$ の開区間 $K$ を、$l(x_0)$ より上にあり、$u(x_0)\ne+\infty$ なら $u(x_0)$ より下にあるようにとる($l(x_0)< \beta(x_0)< u(x_0)$ なのでとれる。$\beta(x_0)=+\infty$ なら $u\equiv+\infty$ で、$K$ は $(c,+\infty]$ の形、$\beta(x_0)=-\infty$ なら $K$ は $[-\infty,d)$ の形)。$l,u,\beta$ の連続性により、$x_0$ を含む開区間 $J\subset I_3$ で、$x\in J$ について $\beta(x)\in K$ であり、$K$ が $l(x)$ より上、($u$ が有限なら)$u(x)$ より下にあるものがとれる。このとき $x\in J$ について $A_x\cap K\subset\{\beta(x)\}$ である($l(x)$ と $u(x)$ の間にある $A_x$ の元は $\beta(x)$ だけ)。$I_3$ 上で $\beta(x)\notin A_x$ なら $A\cap(J\times K)=\emptyset$、$\beta(x)\in A_x$ なら $A\cap(J\times K)$ は連続関数 $\beta|_J$ のグラフである。どちらでも $(x_0,\beta(x_0))$ は正常であり、矛盾する。
$J$ を $I\setminus E$ に含まれる開区間とし、$a\in J$、$A_a=\{b_1< \cdots< b_m\}$ とする。各 $(a,b_i)$ は正常で $A$ に属するので、開箱 $J_i\times K_i$ で $A\cap(J_i\times K_i)$ が連続関数 $\varphi_i$($\varphi_i(a)=b_i$)のグラフになるものがある。$K_i$ を $b_i$ を含む互いに交わらない開区間に縮め、$\varphi_i$ の連続性で $J_i$ も縮めて、$J':=\bigcap_iJ_i$ とする。$x\in J'$ なら各 $K_i$ に $A_x$ の元がちょうど 1 つずつあるので $\lvert A_x\rvert\ge m$ である。
$a$ のすぐ右で $\lvert A_x\rvert>m$ となる、すなわち「$A_x\setminus\bigcup_iK_i\ne\emptyset$ となる $x$ の集合」が $(a,a')$ を含むとする。$\gamma(x):=\min(A_x\setminus\bigcup_iK_i)$($x\in(a,a')$)は定義可能で、cor-cdo-one-sided-limit により $y^*:=\lim_{x\to a+}\gamma(x)\in\overline{M}$ が存在する。$\gamma(x)$ は開集合 $\bigcup_iK_i$ の外にあるので $y^*$ もその外にあり、特に $y^*\notin A_a$ である。$(a,y^*)$ は正常なので、$A$ と交わらない開箱 $J''\times K''$ が $(a,y^*)$ のまわりにとれる。ところが $x\to a+$ で $(x,\gamma(x))\to(a,y^*)$ であり、$(x,\gamma(x))\in A$ がこの箱に入る。これは矛盾である。左側も同様なので、$a$ の近くで $\lvert A_x\rvert=m$ である。
よって、各 $m$ について $\{x\in J\mid\lvert A_x\rvert=m\}$ とその補集合はどちらも $J$ の開集合で定義可能であり、lem-cdo-interval-connected により $\lvert A_x\rvert$ は $J$ 上で一定である。$E$ は有限で、$I\setminus E$ は有限個の開区間の和なので、$\lvert A_x\rvert$ は有限個の値しかとらない。$\square$
これは KPS86 の (3.7)$_1$(§4、pp. 598–601)にあたる。一様な有限性は胞体分解の証明の中で最も手間のかかる部分であり(同 p. 598 は "the hard work" と書く)、o-極小でない構造では成り立たない(下の ex-cdo-unbounded-fibres)。
定義可能集合 $S\subset M$ の境界点とは、$y$ を含むどの開区間も $S$ と $M\setminus S$ の両方と交わるような $y\in M$ のことである。$S$ は有限個の点と区間の和なので、境界点はそれらの点と端点に限られ、有限個である。
定義可能集合 $X_1,\dots,X_k\subset M^2$ に対し、それらすべてと両立する $M^2$ の分解がある。
境界点の関数。$D:=\{(x,y)\in M^2\mid y$ はある $i$ について $(X_i)_x$ の境界点$\}$ は定義可能で、各ファイバー $D_x$ は有限集合である。prop-cdo-uniform-finiteness-1($I=M$)により、$\lvert D_x\rvert\le N$ となる $N$ がある。$0\le j\le N$ について $P_j:=\{x\in M\mid\lvert D_x\rvert=j\}$ とし、$x\in P_j$ について $D_x=\{f_{j,1}(x)< \cdots< f_{j,j}(x)\}$ と書く。関数 $f_{j,r}\colon P_j\to M$ は定義可能である(「$y\in D_x$ で、$D_x$ の元のうち $y$ より小さいものがちょうど $r-1$ 個」と書ける)。$f_{j,0}:=-\infty$、$f_{j,j+1}:=+\infty$ とおく。
すき間は全部入るか全く入らない。$x\in P_j$ と $0\le r\le j$ について、開区間 $G:=(f_{j,r}(x),f_{j,r+1}(x))$ は $(X_i)_x$ の境界点を含まない。よって $(X_i)_x\cap G$ の各点は $(X_i)_x$ に含まれる開区間の中にあり、$G\setminus(X_i)_x$ の各点も同様なので、$(X_i)_x\cap G$ は $G$ の中で開かつ閉である。lem-cdo-interval-connected により、$G\subset(X_i)_x$ か $G\cap(X_i)_x=\emptyset$ である。
型で底を分ける。$x\in P_j$ の型を、各 $i$ と $r$ について「$f_{j,r}(x)\in(X_i)_x$ か」「$(f_{j,r}(x),f_{j,r+1}(x))\subset(X_i)_x$ か」を並べた有限の記録とする。型が一定な $x$ の集合は定義可能で、有限個ある。(I)$_1$ と単調性定理により、点 $a_1< \cdots< a_t$ を選んで、得られる $M$ の分解の各胞体が、各「$P_j$ で型が一定な集合」に含まれ、さらに各区間 $U=(a_s,a_{s+1})\subset P_j$ の上で $f_{j,1},\dots,f_{j,j}$ が連続になるようにできる。
胞体を作る。区間 $U\subset P_j$ の上には、グラフ $\Gamma(f_{j,r}|_U)$($1\le r\le j$)と帯 $(f_{j,r},f_{j,r+1})_U$($0\le r\le j$)をとる。点 $a_s$ の上には、$D_{a_s}$ の各点 $y$ について 1 点 $\{(a_s,y)\}$ と、$D_{a_s}$ で区切られた縦の開区間をとる。これらは胞体であり、$M^2$ を分割し、射影が上の $M$ の分解なので、$M^2$ の分解である。$U$ の上では型が一定なので、各 $X_i\cap(U\times M)$ はいくつかのグラフと帯の和であり、点 $a_s$ の上でも $(X_i)_{a_s}$ は $D_{a_s}$ の点とすき間のいくつかの和である。よってこの分解は各 $X_i$ と両立する。$\square$
関数の連続性の鍵は、各変数についての連続性と単調性から全体の連続性を導く次の補題である。
$B\subset M^2$ を開箱、$f\colon B\to M$ を定義可能な関数とする。開箱 $B'\subset B$ で、$f|_{B'}$ が連続であるものがある。
要点:まず各縦線の上で $f$ が連続かつ単調な小箱をとり、次に各横線の上で連続な小箱をとり、最後に 2 つを合わせる。
段 1。$B=I\times K$ とし、$E:=\{(x,y)\in B\mid y$ を含むどの開区間の上でも $f(x,\cdot)$ は「連続かつ定数または狭義単調」でない$\}$ とおく。単調性定理により各 $E_x$ は有限集合である。thm-cdo-plane-sets により $B$、$E$ と両立する分解 $\mathcal{D}$ をとる。底の分点以外の $x\in I$ をとると、$\{x\}\times K$ は無限集合で、$x$ を含む底の区間の上のグラフとは 1 点ずつしか交わらないので、ある帯 $C\in\mathcal{D}$ と交わる。$C$ は $B$ と交わるので $C\subset B$ であり、$C$ のファイバーは無限なので $C\not\subset E$、よって $C\cap E=\emptyset$ である。$C=(g,h)_U$ の点 $(x_0,y_0)$ をとり、$g(x_0)< c< y_0< d< h(x_0)$ となる $c,d$ と、$g< c$、$d< h$ が成り立つ $x_0$ の近くの開区間 $U'$ をとると、$U'\times(c,d)\subset C$ である。この小箱の上では、各 $x$ について $f(x,\cdot)$ は $(c,d)$ の各点の近くで連続かつ定数または狭義単調なので、lem-cdo-interval-connected と lem-cdo-local-global(単調性定理の証明と同じ議論)により、$(c,d)$ 全体で連続かつ定数または狭義単調である。
段 2。座標を入れ替えた $\tau(x,y)=(y,x)$ で同じ議論をすると、段 1 の小箱の中に小箱 $B'=U''\times V''$ で、各 $y$ について $f(\cdot,y)$ が $U''$ 上で連続なものがとれる。段 1 の性質は小箱に移っても保たれる。
段 3。$(a,b)\in B'$ と $f(a,b)$ を含む開区間 $W$ をとる。$f(a,\cdot)$ の連続性により、$b_1< b< b_2$ で $f(a,b_1),f(a,b_2)\in W$ となる $b_1,b_2\in V''$ がある。$f(\cdot,b_1)$、$f(\cdot,b_2)$ の連続性により、$a$ を含む開区間 $U_0$ で、$x\in U_0$ について $f(x,b_1),f(x,b_2)\in W$ となるものがある。$(x,y)\in U_0\times(b_1,b_2)$ なら、$f(x,\cdot)$ は定数または狭義単調なので $f(x,y)$ は $f(x,b_1)$ と $f(x,b_2)$ の間(両端を含む)にあり、$W$ は区間なので $f(x,y)\in W$ である。よって $f$ は $(a,b)$ で連続である。$\square$
段 3 で $f(x,\cdot)$ の単調性は欠かせない。各変数について連続でも全体として連続とは限らないからである(ex-cdo-separately-continuous)。
定義可能集合 $X\subset M^2$ 上の定義可能な関数 $f\colon X\to M$ に対し、$X$ と両立する $M^2$ の分解 $\mathcal{D}$ で、$X$ に含まれる各 $D\in\mathcal{D}$ の上で $f|_D$ が連続なものがある。
thm-cdo-plane-sets により $X$ と両立する分解をとり、$X$ に含まれる各胞体 $C$ を、$f$ が連続になる有限個の定義可能集合に分ける。
これで $n=2$ の (I)$_2$・(II)$_2$ が示された。証明の順序「(III)$_1$ から (I)$_2$、(I)$_2$ から (II)$_2$」は、一般の次元の帰納法の 1 段と同じ形である。
一般の $n$ の証明は、この記事では骨格だけを述べる(KPS86 §§4–5、pp. 598–604)。(I)$_n$・(II)$_n$・(III)$_n$ を $n$ についての同時帰納法で示す。
$M^n$ の胞体は定義可能に連結である。
胞体の構成についての帰納法による。1 点は明らかで、開区間は lem-cdo-interval-connected による。グラフは射影で底と同相であり、帯は各ファイバーが開区間なので、底の定義可能な連結性に帰着する。
$C\subset M^n$ を定義可能に連結な胞体とする。グラフ $\Gamma(f)$ の場合、射影 $\pi\colon\Gamma(f)\to C$ は定義可能な同相写像(逆写像 $x\mapsto(x,f(x))$)なので、$\Gamma(f)$ の中で開かつ閉な定義可能集合は $C$ の中で開かつ閉な定義可能集合に移り、$\Gamma(f)$ も定義可能に連結である。
帯 $Y=(f,g)_C$ の場合、$Y=U\sqcup V$($U,V$ は $Y$ の中で開かつ閉な定義可能集合)とする。各 $x\in C$ のファイバー $Y_x=(f(x),g(x))$ は開区間なので、lem-cdo-interval-connected により $U_x$ は $\emptyset$ か $Y_x$ である。よって $U=Y\cap\pi^{-1}(\pi(U))$、$V=Y\cap\pi^{-1}(\pi(V))$ で、$\pi(U),\pi(V)$ は $C$ を分割する定義可能集合である。$\pi(U)$ は $C$ の中で開である:$(x,y)\in U$ について、$U$ は $Y$ の中で開なので、$x$ の近傍 $C\cap O$ と $y$ を含む開区間 $K$ で $Y\cap(O\times K)\subset U$ となるものがあり、$f,g$ の連続性で $O$ を縮めると、$x'\in C\cap O$ について $K$ の点 $y$ が $Y_{x'}$ に入るので $x'\in\pi(U)$ である。同様に $\pi(V)$ も開なので、$C$ の定義可能な連結性から $\pi(U)$ か $\pi(V)$ は空であり、$U$ か $V$ は空である。$\square$
この命題は KPS86 Proposition 2.4(p. 597)である。
定義可能集合 $X\subset M^n$ は、有限個の空でない定義可能に連結な定義可能集合 $Y_1,\dots,Y_r$ の交わらない和であり、各 $Y_j$ は $X$ の中で開かつ閉である。
胞体分解定理 (I)$_n$ により $X=C_1\sqcup\cdots\sqcup C_k$(胞体)と書く。いくつかの $C_i$ の和で $X$ の中で開かつ閉なものを「閉開和」と呼ぶ。閉開和どうしの共通部分と差は閉開和であり、有限個しかないので、空でない閉開和のうち包含について極小なもの $Y_1,\dots,Y_r$ は $X$ を分割する(2 つの極小なものは共通部分が閉開和なので、等しいか交わらない。また $X$ の各点はある極小な閉開和に含まれる)。$Y_j$ が定義可能に連結でないとし、$Y_j=U\sqcup V$($Y_j$ の中で開かつ閉、空でない定義可能集合)とする。prop-cdo-cell-connected により、$Y_j$ に含まれる各胞体は $U$ か $V$ の一方に含まれるので、$U$ は胞体の和であり、$Y_j$ が $X$ の中で開かつ閉だから $U$ も $X$ の中で開かつ閉である。これは $Y_j$ の極小性に反する。$\square$
これは KPS86 Theorem 0.1(p. 593、証明は p. 604)である。$(\mathbb{R},<)$ の o-極小な拡大では、胞体は通常の意味で連結なので、定義可能集合の連結成分は有限個で、それぞれ定義可能である(同 Theorem 0.3 (b)、p. 593)。さらに、定義可能な族 $\{A_x\}_{x\in M^m}$($A\subset M^m\times M^n$ は定義可能)のファイバーの成分の個数は一様に有界である(同 Theorem 0.3 (a)。実数体の拡大では vdDM96 4.4、p. 13)。
空でない定義可能集合 $X\subset M^n$ の次元 $\dim X$ を、$X$ と両立する $M^n$ の分解 $\mathcal{D}$ をとったときの、$X$ に含まれる胞体の次元の最大値と定める。$\dim\emptyset:=-\infty$ とする。
この定義が分解の選び方によらないことを、$n\le2$ で示す。
空でない定義可能集合 $X\subset M^2$ について、どの分解で計算しても次が成り立つ。
(1) $\dim X=2$ であることと、$X$ が内点をもつことは同値である。
(2) $\dim X=0$ であることと、$X$ が有限集合であることは同値である。
したがって $\dim X$ は分解によらない。$X\subset M$ についても、$\dim X=1$ と $X$ が無限集合であることは同値である。
一般の $n$ でも $\dim X$ は分解によらず、定義可能な全単射で変わらない(Edm00 p. 6 の一覧)。また、定義可能な写像 $f$ について $\dim f(X)\le\dim X$、境界について $\dim(\overline{X}\setminus X)< \dim X$ が成り立つ(実数体の拡大では vdDM96 4.7、p. 13。そこでの次元は「$X$ が含む $C^1$ 部分多様体の次元の最大値」で、p. 4 で定義されている)。この記事では証明しない。o-極小構造では、同じように胞体を使って定義可能集合の Euler 標数 も定義され、定義可能な全単射で変わらない(Edm00 p. 6 の一覧)。
実数体では、定義可能集合は半代数的集合であり(Tarski–Seidenbergの定理)、胞体分解定理は柱状分解の定理になる。たとえば $X=\{x\in\mathbb{R}\mid x^3-x\ge0\}=[-1,0]\cup[1,+\infty)$ は、点 $-1,0,1$ による分解の胞体 $\{-1\},(-1,0),\{0\},\{1\},(1,+\infty)$ の和である。関数 $f(x)=\lvert x^2-1\rvert$ は、点 $-1,0,1$ で区切った各区間の上で狭義単調かつ連続であり、単調性定理の分点は $-1,0,1$ でよい($0$ は増減が変わる点、$\pm1$ は微分できない点だが、単調性定理は微分可能性を求めない)。
実数体で $X=\{(x,y)\mid xy=1\}\cup\{(0,0)\}$ とする。点 $0$ による $\mathbb{R}$ の分解の上で、$(-\infty,0)$ と $(0,+\infty)$ の上のグラフ $\Gamma(1/x)$、点 $0$ の上の 1 点 $\{(0,0)\}$ をとれば、$X$ は 3 つの胞体の和である。$X$ の定義可能に連結な成分は 3 つで(cor-cdo-finitely-many-components)、$\dim X=1$ である。射影 $X\to\mathbb{R}$ は連続な全単射だが、原点を含む成分が孤立点なので同相写像ではない。
構造 $(\mathbb{R},+,\cdot,<,\sin)$ は o-極小でない(o-極小構造 の反例「正弦関数を加えた構造」)。この構造で定義可能な関数 $\sin\colon(0,+\infty)\to\mathbb{R}$ は、無限個の区間で増加と減少を繰り返すので、区間 $(0,+\infty)$ を有限個に分けて各区間で単調にすることはできない。単調性定理の結論が、o-極小性を外すと成り立たない例である。
同じ構造で $A:=\{(t,y)\mid t>0,\ 0\le y\le1,\ \sin(\pi y/t)=0\}$ は定義可能であり、$t>0$ のファイバーは $A_t=\{kt\mid k\in\mathbb{Z},\ 0\le kt\le1\}$ で、ちょうど $\lfloor1/t\rfloor+1$ 個の点からなる。各ファイバーは有限だが、個数は $t\to0+$ で有界でない。よって一様な有限性 (III)$_1$ は o-極小でない構造では成り立たず、$A$ はどの有限個の胞体の和にもならない(胞体のファイバーは空集合か 1 点か開区間なので、ファイバーがすべて有限な集合が $k$ 個の胞体の和なら、各ファイバーの点の個数は $k$ 以下である)。
実数体で $f(x,y)=xy/(x^2+y^2)$($(x,y)\ne(0,0)$)、$f(0,0)=0$ は半代数的な関数である。$x$ を固定しても $y$ を固定しても連続だが、$f(t,t)=1/2$ なので原点で連続でない。$x\ne0$ を固定すると $f(x,\cdot)$ は $y=\pm x$ で増減が変わり、単調でない。これは lem-cdo-continuous-box の段 3 で「$f(x,\cdot)$ が単調」を外すと結論が成り立たなくなることを示す。胞体分解定理 (II)$_2$ の結論とは矛盾しない:原点を 1 つの胞体として分ければ、残りの胞体の上では $f$ は連続である。
実代数的数の体 $\mathbb{R}_{\mathrm{alg}}$(実閉体)は o-極小である(o-極小構造 の命題「実閉体は o-極小」)。その区間 $I=(0,1)$ は定義可能に連結である(lem-cdo-interval-connected)が、位相空間としては連結でない:$1/\pi\notin\mathbb{R}_{\mathrm{alg}}$ なので、$\{x\in I\mid x< 1/\pi\}$ と $\{x\in I\mid x>1/\pi\}$ は $I$ を分ける交わらない空でない開集合である(これらは定義可能ではない)。したがって、一般の o-極小構造では「連結」を「定義可能に連結」に置き換えることが必要である。
| 外す条件 | 反例 | 成り立たなくなること |
|---|---|---|
| o-極小性 | $(0,+\infty)$ 上の $\sin$(ex-cdo-sine) | 単調性定理(有限個の単調な区間) |
| o-極小性 | $\sin(\pi y/t)=0$ のファイバー(ex-cdo-unbounded-fibres) | 一様な有限性、有限個の胞体への分解 |
| 一方の変数についての単調性 | $xy/(x^2+y^2)$(ex-cdo-separately-continuous) | 各変数の連続性からの全体の連続性 |
| 定義可能性(連結性を定義可能な集合に限ること) | $\mathbb{R}_{\mathrm{alg}}$ の区間(ex-cdo-real-algebraic) | 区間の連結性(定義可能な連結性は成り立つ) |
Mathpediaは寄付と、参考文献の書籍リンク(Amazonアソシエイト)の紹介料で運営されています。 支援について / 寄付する