単調性定理(o-極小)

同義語：monotonicity theorem (o-minimal)

概要

前提知識: o-極小構造, 定義可能集合, 全順序, 順序位相

単調性定理（monotonicity theorem）は、o-極小構造で定義可能な 1 変数関数 $f\colon(a,b)\to M$ が、区間を有限個の点で切ると、各小区間の上で定数であるか、狭義単調かつ連続になることを述べる定理である。o-極小性は「定義可能な 1 変数の集合は有限個の点と区間の和である」という集合についての条件だが、単調性定理はそれが定義可能な 1 変数の関数の振る舞いまで強く制限することを示す。
実数体の上の半代数的な関数や、制限された解析関数・指数関数を加えた o-極小な構造（o-極小構造の例「制限された解析関数と指数関数」）で定義可能な関数は、どれも区分的に単調で連続になり、$\sin x$ のように無限回増減を繰り返す関数は現れない。単調性定理は、o-極小構造の胞体分解定理の 1 次元の場合にあたり、高次元の議論の土台になる。この記事では、単調性定理を完全に証明し、片側極限の存在などの帰結と、仮定を外したときの反例を述べる。

設定

以下、$\mathcal M=(M,<,\dots)$ を o-極小構造とする（o-極小構造の定義「o-極小構造」）。$<$ は稠密で端点のない全順序であり、「定義可能」はパラメータ付きで $\mathcal M$ で定義可能なことを指す。関数は、グラフが定義可能なとき定義可能という。$\overline M:=M\cup\{-\infty,+\infty\}$ とし、$a< b$ となる $a,b\in\overline M$ について開区間 $(a,b):=\{x\in M\mid a< x< b\}$ を考える。$M$ には開区間を基とする順序位相（順序位相）を入れる。
o-極小構造では、定義可能な空でない集合 $A\subset M$ は $\overline M$ の中に上限と下限をもつ（o-極小構造の命題「定義可能な完備性」。上に有界でなければ上限は $+\infty$）。定義可能集合 $X\subset M$ が定義可能に連結であるとは、$X$ の中で開かつ閉な定義可能集合が $\emptyset$ と $X$ だけであることをいう（o-極小構造の節「連結性による特徴づけ」の定義と同じ）。

1 変数の定義可能集合の基本性質

$S\subset M$ を定義可能集合とする。

$S$ が無限集合なら、$S$ は開区間を含む。
$c\in M\cup\{-\infty\}$ と $b\in\overline M$（$c< b$）に対し、$c< c'\le b$ となる $c'$ があって、$(c,c')\subset S$ または $(c,c')\cap S=\emptyset$ である。左側についても同様である。

$S$ は有限個の点と有限個の開区間の和である。1：点は有限個なので、無限集合なら開区間を少なくとも 1 つ含む。2：$S$ を表す点と区間の端点のうち $M$ に属するものは有限個である。そのうち $c$ より大きいものがあればその最小のもの、なければ $b$ を $c''$ とし、$c'$ を $c< c'\le\min(c'',b)$ ととる（順序の稠密性）。$(c,c')$ の中には $S$ の点も端点もないので、$(c,c')$ は $S$ を表すどの開区間にも含まれるか交わらないかのどちらかであり、結論が従う。$\square$

区間は定義可能に連結

開区間 $I$ の定義可能な部分集合 $S$ が $I$ の中で開かつ閉なら、$S=\emptyset$ または $S=I$ である。

$s\in S$、$t\in I\setminus S$ があるとして矛盾を導く。$s< t$ とする（逆も同様）。定義可能な集合 $\{x\in[s,t]\mid[s,x]\subset S\}$ は $s$ を含み、その上限を $e\in[s,t]$ とする。$e\in S$ なら、$S$ は開なので $e$ を含む開区間が $S$ に含まれる。$t\notin S$ より $e< t$ で、$e$ より少し大きい $x$ について $[s,x]\subset S$ となり、$e$ が上限であることに反する。$e\notin S$ なら $e>s$ であり、$I\setminus S$ は開なので、ある $e'< e$ について $(e',e]\cap S=\emptyset$ である。上限の定義から $x\in(e',e]$ で $[s,x]\subset S$ となるものがあるが、$x\in S\cap(e',e]$ となり矛盾である。$\square$

証明の準備

証明の中心は、「2 点の比較」を小区間の上で一様にそろえる 2 つの補題である。

一様な幅の取り出し

$I=(a,b)$ を開区間とし、$g\colon I\to M\cup\{+\infty\}$ を、すべての $x\in I$ で $x< g(x)$ を満たす定義可能な関数とする。このとき開区間 $J\subset I$ で、すべての $x,y\in J$ について $y< g(x)$ となるものがある。

「$d$ より左の値が $g(d)$ を超えない」点の集合
$$ D:=\{d\in I\mid \text{すべての }x\in(a,d)\text{ について }g(x)\le g(d)\} $$
は定義可能である。lem-mo-basic の 2 により、ある $\alpha\in(a,b]$ について $(a,\alpha)\subset D$ か $(a,\alpha)\cap D=\emptyset$ である。
$(a,\alpha)\subset D$ の場合。 $\gamma\in(a,\alpha)$ をとり、$\gamma< \delta< \min\bigl(\alpha,g(\gamma)\bigr)$ となる $\delta$ を選ぶ（$g(\gamma)>\gamma$ と稠密性による）。$J:=(\gamma,\delta)$ とする。$x,y\in J$ なら $x\in D$ で $\gamma\in(a,x)$ なので $g(\gamma)\le g(x)$ であり、$y< \delta< g(\gamma)\le g(x)$ である。
$(a,\alpha)\cap D=\emptyset$ の場合。 $\beta\in(a,\alpha)$ をとる。$\beta\notin D$ なので $g(t_0)>g(\beta)$ となる $t_0\in(a,\beta)$ がある。とくに $c:=g(\beta)\in M$ で $c>\beta$ である。$S:=\{x\in(a,\beta)\mid g(x)>c\}$ は無限集合である。実際、$t_k\in S$ が得られたとき、$t_k\in(a,\alpha)$ は $D$ に属さないので $g(t_{k+1})>g(t_k)>c$ となる $t_{k+1}\in(a,t_k)$ があり、$t_0>t_1>t_2>\cdots$ は $S$ の相異なる元である。lem-mo-basic の 1 により $S$ は開区間 $J$ を含む。$x,y\in J$ なら $y< \beta< c< g(x)$ である。$\square$

2 点の関係が均質な小区間

$I$ を開区間、$X\subset M^2$ を定義可能集合とする。開区間 $J\subset I$ で、「$x< y$ となるすべての $x,y\in J$ について $(x,y)\in X$」か「$x< y$ となるすべての $x,y\in J$ について $(x,y)\notin X$」のどちらかが成り立つものがある。

$I=(a,b)$ とし、$u\in I$ について $X_u:=\{y\mid(u,y)\in X\}$ とおく。lem-mo-basic の 2 により、各 $u$ について $u< v$ となる $v$ で $(u,v)\subset X_u$ か $(u,v)\cap X_u=\emptyset$ となるものがある。前者が成り立つ $u$ の集合を $Y_1$、後者を $Y_2$ とすると、どちらも定義可能で $Y_1\cup Y_2=I$ なので、一方は無限集合で開区間 $I'$ を含む。必要なら $X$ を補集合 $M^2\setminus X$ に替えて $I'\subset Y_1$ としてよい。$u\in I'$ について
$$ g(u):=\sup\{v\in(u,b)\mid(u,v)\subset X_u\}\in M\cup\{+\infty\} $$
とおく（$b=+\infty$ のこともある）。$g$ は定義可能で $g(u)>u$ であり、$u< y< g(u)$ なら $y\in X_u$ である。lem-mo-uniform-width を $g$ に当てて、開区間 $J\subset I'$ で $y< g(x)$（$x,y\in J$）となるものをとる。$x< y$ が $J$ の元なら $x< y< g(x)$ なので $(x,y)\in X$ である。$\square$

単調な小区間

$f\colon I\to M$ を開区間 $I$ 上の定義可能な関数とする。開区間 $J\subset I$ で、$f$ が $J$ 上で定数、狭義増加、狭義減少のいずれかであるものがある。

lem-mo-ramsey を $X_<:=\{(x,y)\mid f(x)< f(y)\}$ と $I$ に当てて開区間 $J_1$ をとる。$J_1$ 上で「$x< y\Rightarrow f(x)< f(y)$」なら $f$ は $J_1$ 上で狭義増加である。そうでなければ $J_1$ 上で「$x< y\Rightarrow f(x)\ge f(y)$」であり、lem-mo-ramsey を $X_=:=\{(x,y)\mid f(x)=f(y)\}$ と $J_1$ に当てて開区間 $J_2\subset J_1$ をとる。$J_2$ 上で「$x< y\Rightarrow f(x)=f(y)$」なら $f$ は定数であり、そうでなければ $x< y$ のとき $f(x)>f(y)$ なので狭義減少である。$\square$

狭義単調なら連続な小区間がある

$f\colon I\to M$ が開区間 $I$ 上の定義可能な狭義増加関数なら、開区間 $J\subset I$ と開区間 $K$ で、$f|_J$ が $J$ から $K$ への順序を保つ全単射になるものがある。とくに $f$ は $J$ 上で連続である。狭義減少でも同様である。

$f$ は単射なので像 $f(I)$ は無限の定義可能集合であり、開区間 $K$ を含む（lem-mo-basic の 1）。$J:=\{x\in I\mid f(x)\in K\}$ とおく。$x< z< y$、$x,y\in J$ なら $f(x)< f(z)< f(y)$ なので $z\in J$ であり、$J$ は凸な定義可能集合、したがって 1 つの区間である。$f|_J\colon J\to K$ は順序を保つ全単射で、$K$ が最大元も最小元ももたないので $J$ ももたず、$J$ は開区間である。
連続性：$x\in J$ と $f(x)$ を含む開区間 $W$ をとる。$K\cap W$ は $f(x)$ を含む開区間なので、$c< f(x)< d$ となる $c,d\in K\cap W$ があり、$c=f(x_1)$、$d=f(x_2)$（$x_1< x< x_2$）と書ける。$z\in(x_1,x_2)$ なら $f(z)\in(c,d)\subset W$ である。$\square$

局所的な単調性から区間全体の単調性

$f\colon I\to M$ を開区間 $I$ 上の定義可能な関数とし、各 $x\in I$ に、$x$ を含む開区間で $f$ が狭義増加になるものがあるとする。このとき $f$ は $I$ 上で狭義増加である。「狭義増加」を「定数」「狭義減少」に替えても同様である。

$I=(a,b)$、$x\in I$ を固定し、$e:=\sup\{y\in(x,b)\mid f\text{ は }[x,y]\text{ 上で狭義増加}\}$ とおく。この集合は仮定から空でない定義可能集合なので、上限は $\overline M$ にある。$e< b$ とすると、$e$ を含む開区間 $(e_1,e_2)$ で $f$ は狭義増加であり、上限の定義から $y\in(\max(x,e_1),e)$ で $f$ が $[x,y]$ 上で狭義増加となるものがある。$u< v$ が $[x,y]\cup(e_1,e_2)$ の元なら、同じ部分にあれば $f(u)< f(v)$、$u\in[x,y]$、$v\in(y,e_2)$ なら $f(u)\le f(y)< f(v)$ である。よって $e< z< e_2$ となる $z$ について $f$ は $[x,z]$ 上で狭義増加であり、$e$ が上限であることに反する。したがって $e=b$ で、$x< y$ なら $f(x)< f(y)$ である。$\square$

単調性定理

$f\colon(a,b)\to M$ を定義可能な関数とする（$a,b\in\overline M$）。点 $a=a_0< a_1< \cdots< a_k=b$（$a_1,\dots,a_{k-1}\in M$）があって、各区間 $(a_{i-1},a_i)$ の上で $f$ は定数であるか、狭義単調かつ連続である。狭義単調な区間 $(a_{i-1},a_i)$ では、像 $f\bigl((a_{i-1},a_i)\bigr)$ は開区間で、$f$ はその上への順序を保つか逆にする全単射である。さらに分点 $a_1,\dots,a_{k-1}$ は、$f$、$a$、$b$ を定義するのに使ったパラメータで定義可能にとれる。

点 $x\in(a,b)$ がよいとは、$x$ を含む開区間 $J$ で、$f|_J$ が定数であるか、狭義増加かつ連続であるか、狭義減少かつ連続であるものがあることをいう。よくない点の集合 $E$ は、$f$、$a$、$b$ のパラメータで定義可能である。
$E$ は有限集合である。 無限集合なら $E$ は開区間 $J$ を含む（lem-mo-basic の 1）。prop-mo-monotone-piece により開区間 $J_1\subset J$ で $f$ が定数か狭義単調なものがあり、狭義単調なら lem-mo-continuous-piece により開区間 $J_2\subset J_1$ で $f$ が連続なものがある。$J_2$（定数なら $J_1$）の点はよい点であり、$J\subset E$ に反する。
各小区間での形。 $E=\{a_1< \cdots< a_{k-1}\}$ とし、$a_0:=a$、$a_k:=b$ とする。区間 $I:=(a_{i-1},a_i)$ を 1 つ固定し、$I$ の点のうち「$f$ がその点の近くで定数」「狭義増加かつ連続」「狭義減少かつ連続」であるものの集合を $S_=$、$S_<$、$S_>$ とする。これらは定義可能で $I$ の開集合であり、$I$ を覆う。互いに交わらない：たとえば $x\in S_=\cap S_<$ なら、$x$ を含む 2 つの開区間の共通部分（無限集合）の上で $f$ が定数かつ狭義増加となって矛盾する。よって $S_=$ の補集合 $S_< \cup S_>$ は開で、$S_=$ は $I$ の中で開かつ閉であり、lem-mo-interval-connected により $\emptyset$ か $I$ である。$S_<$、$S_>$ も同様なので、どれか 1 つが $I$ 全体である。lem-mo-local-global により $f$ は $I$ 上で定数か狭義増加か狭義減少であり、連続性は各点の近くで成り立つので $I$ 上で連続である。
像。 $f$ が $I$ 上で狭義増加かつ連続とする（減少も同様）。$u< v< w$ で $u=f(x)$、$w=f(z)$（$x< z$、$x,z\in I$）とし、$v$ が像に入らないとする。$L:=\{y\in(x,z)\mid f(y)< v\}$、$U:=\{y\in(x,z)\mid f(y)>v\}$ は定義可能で、連続性により $(x,z)$ の開集合であり、$(x,z)$ を覆い、交わらない。$f$ の $x$ と $z$ での連続性により $L$ と $U$ は空でなく、lem-mo-interval-connected に反する。よって像は凸な定義可能集合で、$f$ が狭義増加なので最大元も最小元ももたない。像の下限と上限を $c,d\in\overline M$ とすると、像は $(c,d)$ に等しい。
分点の定義可能性。 $E$ の $i$ 番目の元 $a_i$ は、「$x\in E$ で、$E$ の元のうち $x$ より小さいものがちょうど $i-1$ 個ある」という論理式で、$E$ と同じパラメータで定義される。$\square$

この定理は Pillay–Steinhorn による（PS86 Theorem 4.2、p. 578。主要な補題は同 Lemma 4.3、p. 579 で、場合分けによって示されている）。実数の上の o-極小な構造については vdD86 p. 191 と vdDM96 4.1（p. 12）が述べている。ここでの証明は、lem-mo-uniform-width と lem-mo-ramsey で 2 点の比較を小区間の上で均質にそろえる形に組み立てた。

帰結

片側極限の存在

$f\colon(a,b)\to M$ を定義可能な関数とすると、各 $c\in[a,b)$ で右側極限 $\lim_{x\to c+}f(x)$ が $\overline M$ の中に存在する。左側極限も同様である。

thm-mo-main により、$c$ のすぐ右の区間 $(c,c')$ で $f$ は定数か狭義単調である。定数なら明らかである。狭義増加なら $L:=\inf f\bigl((c,c')\bigr)\in\overline M$（定義可能な完備性）とおく。$L$ を含む $\overline M$ の開区間 $(p,q)$（$L=-\infty$ なら $[-\infty,q)$）に対し、下限の定義から $f(x_1)< q$ となる $x_1\in(c,c')$ があり、$x\in(c,x_1)$ なら $L\le f(x)\le f(x_1)< q$ である。よって $f(x)\to L$ である。狭義減少なら上限をとる。$\square$

定義可能集合の上の関数

$X\subset M$ を定義可能集合、$f\colon X\to M$ を定義可能な関数とする。$X$ は有限個の点と開区間の交わらない和であって、各開区間の上で $f$ が定数であるか狭義単調かつ連続であるようにできる。とくに $f$ が連続でない点は有限個である。

$X$ は有限個の点と開区間の和であり、開区間たちは交わらないようにとれる。各開区間に thm-mo-main を当てて分点を点として加えればよい。開区間の内部の点では $f$ は（$X$ の中で）連続なので、連続でない点は有限個の点のどれかである。$\square$

$\mathbb R$ の上の o-極小な構造では、cor-mo-one-sided-limit により定義可能な関数は各点で片側極限をもち、$x\to+\infty$ のときも極限が $\overline{\mathbb R}$ に存在する。たとえば $\sin(1/x)$ のように $0$ の近くで振動する関数は、o-極小な構造では定義できない。

例

半代数的な関数

実数体 $(\mathbb R,+,\cdot,<)$ は o-極小で、定義可能な関数は半代数的な関数である（o-極小構造、半代数的集合）。

$f(x)=x^3-x$ では、分点は $\pm1/\sqrt3$ でよい。$(-\infty,-1/\sqrt3)$ と $(1/\sqrt3,+\infty)$ で狭義増加、$(-1/\sqrt3,1/\sqrt3)$ で狭義減少である。
$f(x)=\lvert x^2-1\rvert$ では、分点は $-1,0,1$ でよい。$\pm1$ は微分できない点、$0$ は増減の変わる点だが、単調性定理は微分可能性を求めない。
$f(x)=1/x$（$x\neq0$）、$f(0)=0$ では、分点は $0$ である。$(-\infty,0)$ と $(0,+\infty)$ でそれぞれ狭義減少で連続であり、$0$ での右側極限は $+\infty$、左側極限は $-\infty$ である。

反例

外す条件	反例	成り立たなくなること
構造の o-極小性	$(\mathbb R,+,\cdot,<,\sin)$ で定義可能な $\sin$	区間を有限個に分けて単調にできること
$f$ の定義可能性	$\mathbb R$ 上の有理数の指示関数	単調な小区間の存在（prop-mo-monotone-piece）
$f$ の定義可能性	有理数で跳ぶ狭義増加関数	狭義単調なら連続な小区間がある（lem-mo-continuous-piece）
$f$ の定義可能性	$\mathbb R_{\mathrm{alg}}$ 上の $1/\pi$ で跳ぶ関数	狭義単調で連続な関数の像が区間であること

反例の確かめ

1 行目。 $(\mathbb R,+,\cdot,<,\sin)$ は o-極小でない（o-極小構造の反例「正弦関数を加えた構造」）。この構造で定義可能な $\sin\colon(0,+\infty)\to\mathbb R$ は、$(k\pi-\pi/2,k\pi+\pi/2)$ ごとに増加と減少を交互に繰り返すので、有限個の区間に分けて各区間で単調にすることはできない。
2 行目。 実数体の上で $f:=1_{\mathbb Q}$（有理数で $1$、無理数で $0$）を考える。どの開区間にも有理数と無理数があるので、$f$ はどの開区間でも定数でなく、値が $0$ と $1$ だけなので狭義単調でもない。$f^{-1}(1)=\mathbb Q$ は有限個の点と区間の和でないので、$f$ はどの o-極小な構造でも定義できない。
3 行目。 $(q_n)_{n\ge1}$ を $(0,1)$ の有理数の番号付けとし、$f(x):=x+\sum_{q_n< x}2^{-n}$（$0< x< 1$）とおく。$f$ は狭義増加である。$x>q_m$ なら和に $2^{-m}$ が入るので $f(x)\ge f(q_m)+2^{-m}$ となり、$f$ は各 $q_m$ で連続でない。有理数は稠密なので、$f$ が連続な開区間はない。
4 行目。 実代数的数の体 $\mathbb R_{\mathrm{alg}}$ は実閉体なので o-極小である（o-極小構造の命題「実閉体は o-極小」、実閉体の例「実代数的数の体」）。$I:=(0,1)$（$\mathbb R_{\mathrm{alg}}$ の区間）の上で、$x< 1/\pi$ なら $f(x)=x$、$x>1/\pi$ なら $f(x)=x+1$ とおく（$1/\pi$ は $I$ に属さない）。$f$ は狭義増加で、$I$ の各点はどちらか一方の側の開区間に含まれるので $f$ は連続である。しかし $f(1/4)=1/4$、$f(1/2)=3/2$ の間の $1$ は像に入らず、像は区間でない。$f$ が定義可能だとすると、thm-mo-main の分点は $\mathbb R_{\mathrm{alg}}$ の元なので $1/\pi$ と異なり、$a_{i-1}< 1/\pi< a_i$ となる小区間 $(a_{i-1},a_i)$ がある。$a_{i-1}< x< 1/\pi< z< a_i$ となる $x,z\in\mathbb R_{\mathrm{alg}}$ をとると $f(x)< 1< f(z)$ で、$1$ は像に入らないので、この小区間の像は開区間でなく定理に反する。よって $f$ は $\mathbb R_{\mathrm{alg}}$ で定義できない。