解析集合(記述集合論)

同義語:analytic setSuslin集合Suslin set

概要

解析集合(記述集合論)(analytic set)とは、Polish 空間の部分集合で、Baire 空間 $\omega^\omega$ の連続像であるものと空集合のことである。閉集合の射影、Borel 集合の射影、閉集合の族への Suslin 操作の結果とも言い換えられ、連続写像の像と逆像、可算和、可算共通部分で閉じる。Borel 集合はすべて解析集合で、非可算な Polish 空間には Borel でない解析集合があるが、交わらない解析集合は Borel 集合で分離でき、解析集合かつ補集合も解析集合である集合はちょうど Borel 集合である。解析集合は有限 Borel 測度について可測で Baire の性質をもつ。

$$\newcommand{C}[0]{\mathbb{C}} \newcommand{div}[0]{\mathbin{÷}} \newcommand{N}[0]{\mathbb{N}} \newcommand{Q}[0]{\mathbb{Q}} \newcommand{R}[0]{\mathbb{R}} \newcommand{Z}[0]{\mathbb{Z}} $$

前提知識: Polish空間, Baire空間(記述集合論), Borel集合

解析集合(analytic set)は、Polish空間 の部分集合で、Baire 空間 $\mathcal N=\omega^\omega$ の連続像であるもの(と空集合)である。Suslin 集合、$\boldsymbol\Sigma^1_1$ 集合ともいう。Borel 集合の射影と言っても同じなので、「ある $y$ が存在して $(x,y)$ が Borel な条件を満たす」という形で定義される集合が、ちょうど解析集合である。$\mathbb C^n$ の中の正則関数の共通零点を指す 解析集合(複素解析) は別の概念で、語が同じだけである。
この概念の始まりは 20 世紀初めの 1 つの誤りにある。Lebesgue は 1905 年の論文で、平面の Borel 集合の射影は直線の Borel 集合であるという補題を、ほとんど自明なものとして使った。その 10 年後に Suslin がこの誤りを見つけ、Borel 集合の射影を「解析的」と呼んで、Borel でないものがあることを示した(Mos09 Introduction、pp. 1–2)。それでも解析集合は、Lebesgue 可測で Baire の性質をもち、連続体仮説を満たすという、Borel 集合に近いよい性質をもつ。
この記事では、Polish 空間の上で解析集合の言い換えと閉包性を整理し、Lusin の分離定理を証明して Suslin の定理を導き、Borel でない解析集合が非可算な Polish 空間すべてにあること、解析集合が測度について可測で Baire の性質をもつことを証明する。階層の全体は 射影階層、$\mathcal N^k$ での分離定理の系は Lusinの分離定理、完全集合の定理は 完全集合性質、分野の地図は 記述集合論 が扱う。

定義

$\omega=\{0,1,2,\dots\}$ とし、$\mathcal N=\omega^\omega$ に離散空間 $\omega$ の可算直積の位相を入れる。自然数の有限列 $s$ に対し、$s$ で始まる点の全体を $N_s$ と書く。$N_s$ は開かつ閉で、その全体は開基をなす。$y\in\mathcal N$ の最初の $n$ 項を $y\restriction n$、有限列 $s$ の後ろに $i$ を付けた列を $s^\frown i$ と書く。以下 $X,Y$ は Polish 空間である。

解析集合

Polish 空間 $X$ の部分集合 $A$ が 解析集合 であるとは、$A=\emptyset$ であるか、連続写像 $f\colon\mathcal N\to X$ で $A=f[\mathcal N]$ となるものがあることをいう。解析集合の補集合を 共解析集合($\boldsymbol\Pi^1_1$ 集合)という。

解析集合 $A=f[\mathcal N]$ の点 $x$ には、$f(y)=x$ となる証人 $y$ がある。$x\in A$ は証人を 1 つ示せば確かめられるが、$x\notin A$ を確かめるにはすべての $y$ を調べる必要がある。この非対称性が、解析集合が補集合で閉じない理由である。
空集合を別に扱うのは、連続像の像が必ず空でないからである。Suslin のもとの定義は次の操作による。

Suslin 操作

有限列 $s$ で添字づけられた $X$ の部分集合の族 $(F_s)$ に対し、
$$ \mathcal A(F_s):=\bigcup_{y\in\mathcal N}\ \bigcap_{n\in\omega}F_{y\restriction n} $$
を $(F_s)$ の Suslin 操作 の結果という。

言い換え

解析集合の言い換え

Polish 空間 $X$ の部分集合 $A$ について、次は同値である。

  1. $A$ は解析集合である。
  2. $A$ は空であるか、Polish 空間 $P$ と連続写像 $g\colon P\to X$ で $A=g[P]$ となるものがある。
  3. 閉集合 $F\subseteq X\times\mathcal N$ で $A=\{x\mid\text{ある }y\text{ で }(x,y)\in F\}$ となるものがある。
  4. $X$ の閉集合の族 $(F_s)$ で $A=\mathcal A(F_s)$ となるものがある。

1 ⇒ 2 は $P=\mathcal N$ とすればよい。
2 ⇒ 1:$P$ が空でなければ、Baire空間(記述集合論) の定理「Polish 空間は $\mathcal N$ の連続像」により連続な全射 $h\colon\mathcal N\to P$ があり、$A=(g\circ h)[\mathcal N]$ である。
1 ⇒ 3:$A=\emptyset$ なら $F=\emptyset$ とする。$A=f[\mathcal N]$ なら $F:=\{(f(y),y)\mid y\in\mathcal N\}$ とおく。$F$ は連続写像 $(x,y)\mapsto(x,f(y))$ による対角線の逆像なので閉集合である。
3 ⇒ 2:$F$ は Polish 空間 $X\times\mathcal N$ の閉集合なので Polish 空間である(Polish空間 の定理「Polish 空間の遺伝と構成」)。$A$ は連続な射影 $F\to X$ の像である。
1 ⇒ 4:$A=\emptyset$ なら $F_s=\emptyset$ とする。$A=f[\mathcal N]$ なら $F_s$ を $f[N_s]$ の閉包とする。$x=f(y)$ なら、すべての $n$ で $x\in f[N_{y\restriction n}]\subseteq F_{y\restriction n}$ である。逆に $x\in\bigcap_nF_{y\restriction n}$ とする。$f$ は $y$ で連続なので、$f[N_{y\restriction n}]$ は $n\to\infty$ で $f(y)$ に縮む。$x$ はその閉包のすべてに入るので $x=f(y)\in A$ である。
4 ⇒ 3:$F:=\{(x,y)\mid\text{すべての }n\text{ で }x\in F_{y\restriction n}\}$ とおくと、$\mathcal A(F_s)$ は $F$ の射影である。$(x,y)\notin F$ なら、ある $n$ で $x\notin F_{y\restriction n}$ であり、開集合 $(X\setminus F_{y\restriction n})\times N_{y\restriction n}$ は $(x,y)$ を含み $F$ と交わらない。よって $F$ は閉集合である。$\square$

3 は 射影階層 の定義($X=\mathcal N^k$ のとき)そのものである。1 と 3 の同値は Mos09 演習 1E.6(p. 33)にあり、Suslin 操作は Suslin 1917 に始まる(同書 2I 節の注 1、p. 85)。

閉包性

解析集合は次の操作で閉じている。

  1. 連続写像 $h\colon X\to Y$ による像と逆像。
  2. 可算和と可算共通部分。
    また、開集合と閉集合は解析集合である。

閉集合は Polish 空間なので thm-as-equiv の 2 により解析集合である。開集合は距離空間の中で可算個の閉集合の和なので、可算和の主張から解析集合である。空集合は明らかなので、以下で現れる解析集合は空でないとし、$A=f[\mathcal N]$ などと書く。
像:$h[A]=(h\circ f)[\mathcal N]$ である。
逆像:$B\subseteq Y$ が $B=f[\mathcal N]$ のとき、$h^{-1}(B)$ は閉集合 $\{(x,y)\in X\times\mathcal N\mid h(x)=f(y)\}$ の射影なので、thm-as-equiv の 3 による。
可算和:$A_i=f_i[\mathcal N]$ とする。$g(y):=f_{y(0)}\bigl(y(1),y(2),\dots\bigr)$ とおくと、$g$ は連続で、$g[\mathcal N]=\bigcup_iA_i$ である。
可算共通部分:$A_i=f_i[\mathcal N]$ とする。$\mathcal N^\omega$ は Polish 空間で、
$$ D:=\{(y_i)_i\in\mathcal N^\omega\mid\text{すべての }i\text{ で }f_i(y_i)=f_0(y_0)\} $$
はその閉集合である。$(y_i)_i\mapsto f_0(y_0)$ による $D$ の像は $\bigcap_iA_i$ に等しい。$D=\emptyset$ なら共通部分も空である。よって thm-as-equiv の 2 による。$\square$

Borel 集合と Borel 写像

Borel 集合は解析集合であり、共解析集合でもある。さらに、Borel 可測写像 $h\colon X\to Y$ について、解析集合 $A\subseteq X$ の像 $h[A]$ と解析集合 $B\subseteq Y$ の逆像 $h^{-1}(B)$ は解析集合である。とくに、Borel 集合 $E\subseteq X\times Y$ の $X$ への射影は解析集合である。

$A$ と $X\setminus A$ がともに解析集合であるような $A$ の全体は、補集合と可算和で閉じ(prop-as-closure)、開集合を含むので、Borel 集合をすべて含む。
$(U_n)$ を $Y$ の可算開基とする。$y\ne h(x)$ なら、$h(x)\in U_n$、$y\notin U_n$ となる $n$ があるので、グラフ $G\subseteq X\times Y$ の補集合は $\bigcup_n\bigl(h^{-1}(U_n)\times(Y\setminus U_n)\bigr)$ に等しい。Borel 集合の積は射影による逆像の共通部分なので Borel 集合であり、$G$ も Borel 集合である。$h[A]$ は $G\cap(A\times Y)$ の $Y$ への射影、$h^{-1}(B)$ は $G\cap(X\times B)$ の $X$ への射影である。$A\times Y$ と $X\times B$ は射影による逆像なので解析集合で、$G$ も解析集合なので、prop-as-closure により結論を得る。最後の主張は 1 文目と prop-as-closure の 1 による。$\square$

どこかで微分可能な関数

$C[0,1]$ に一様ノルムを入れた Polish 空間で、$[0,1]$ のどこかの点で微分可能(端点では片側微分)な関数の全体 $S$ は解析集合である。実際、$E:=\{(f,t)\mid f\text{ は }t\text{ で微分可能}\}$ は $t+h\in[0,1]$ となる差分商 $(f(t+h)-f(t))/h$ の Cauchy 条件で書け、$h$ は有理数に限ってよい($f$ は連続なので差分商は $h\ne0$ で連続)。Cauchy 条件は $(f,t)$ の可算個の開集合・閉集合の和と共通部分で書けるので $E$ は Borel 集合である。$S$ は $E$ の射影なので、cor-as-borel により解析集合である。「ある点 $t$ が存在して」という定義の形がそのまま射影になる。

分離定理と Suslin の定理

解析集合の理論の中心は、交わらない 2 つの解析集合の間に Borel 集合の壁を立てられることである。$X$ の部分集合 $A,B$ について、Borel 集合 $C$ で $A\subseteq C$、$C\cap B=\emptyset$ となるものがあるとき、$A$ と $B$ は Borel 分離可能 であるという。

Polish 空間での分離定理(Lusin)

Polish 空間 $X$ の交わらない解析集合 $A,B$ は Borel 分離可能である。

まず次に注意する。$E=\bigcup_iE_i$、$E'=\bigcup_jE'_j$ で、すべての $(i,j)$ について $E_i$ と $E'_j$ が Borel 分離可能なら、$E$ と $E'$ も Borel 分離可能である。実際、$E_i$ を $E'_j$ から分離する Borel 集合 $C_{i,j}$ をとり、$C:=\bigcup_i\bigcap_jC_{i,j}$ とおけば、$E\subseteq C$、$C\cap E'=\emptyset$ である。対偶をとると、$E$ と $E'$ が Borel 分離可能でなければ、ある $(i,j)$ で $E_i$ と $E'_j$ も Borel 分離可能でない。
$A,B$ が Borel 分離可能でないとして矛盾を導く。$A$ か $B$ が空なら $\emptyset$ か $X$ が分離するので、どちらも空でなく、$A=f[\mathcal N]$、$B=g[\mathcal N]$ と書ける。$f[N_s]=\bigcup_if[N_{s^\frown i}]$、$g[N_t]=\bigcup_jg[N_{t^\frown j}]$ なので、上の注意をくり返し使うと、長さ $n$ の有限列 $s_n,t_n$ で、$s_{n+1},t_{n+1}$ がそれぞれ $s_n,t_n$ の延長であり、すべての $n$ で $f[N_{s_n}]$ と $g[N_{t_n}]$ が Borel 分離可能でないものがとれる。$s_0=t_0=\emptyset$ から始める。
$s_n$ の極限を $x\in\mathcal N$、$t_n$ の極限を $y\in\mathcal N$ とする。$f(x)\in A$、$g(y)\in B$ で $A\cap B=\emptyset$ なので $f(x)\ne g(y)$ である。$X$ は Hausdorff なので、交わらない開集合 $U\ni f(x)$、$V\ni g(y)$ がある。連続性から、十分大きな $n$ で $f[N_{s_n}]\subseteq U$、$g[N_{t_n}]\subseteq V$ である。すると Borel 集合 $U$ が $f[N_{s_n}]$ を $g[N_{t_n}]$ から分離し、$s_n,t_n$ の選び方に反する。$\square$

$\mathcal N$ の上の閉集合の近似で同じ背理法を述べた形と、分離する Borel 集合を木の上の再帰で作る構成的な見方は Lusinの分離定理 にある。ここでは連続像の定義を直接使ったので、空間は任意の Polish 空間でよい。$X$ が完全な積空間のときの上の主張は、Mos09 2E.1(p. 65)の $\kappa$-Suslin 集合の定理の $\kappa=\aleph_0$ の場合にあたる。

Suslin の定理

Polish 空間の部分集合 $A$ について、$A$ が Borel 集合であることと、$A$ が解析集合かつ共解析集合であることは同値である。

Borel 集合がどちらでもあることは cor-as-borel である。逆に $A$ と $X\setminus A$ が解析集合なら、交わらないので、thm-as-lusin により $A$ を $X\setminus A$ から分離する Borel 集合 $C$ がある。$A\subseteq C$ と $C\subseteq A$ から $C=A$ である。$\square$

「射影」という操作を両側から使える集合は、もとの可算の操作だけで作れる、というのがこの定理の内容である。証明の筋は、$A$ と補集合の証人を同時に細かくしていくと、有限の段で両者が切り離されるというものである。なお、Suslin の名は「非可算な解析集合は完全集合を含む」という別の定理(完全集合性質)にも付く。

Borel 可測な全単射の逆写像

$h\colon X\to Y$ が Borel 可測な全単射なら、$h^{-1}$ も Borel 可測である。

Borel 集合 $E\subseteq X$ について、$h[E]$ と $Y\setminus h[E]=h[X\setminus E]$ はどちらも cor-as-borel により解析集合である。cor-as-suslin により $h[E]$ は Borel 集合である。$\square$

Borel でない解析集合

Borel でない解析集合の存在

非可算な Polish 空間 $X$ には、Borel でない解析集合がある。その補集合は解析集合でない。一方、可算な Polish 空間では、部分集合はすべて Borel 集合である。

可算な場合は、部分集合が可算個の一点集合の和であることによる。
$X$ が非可算とする。Polish空間 の定理「濃度の二分法」により、$X$ は Cantor 空間 $\mathcal C$ と同相な部分集合を含む。Baire空間(記述集合論) の命題「Cantor 空間の中の $\mathcal N$」により、$\mathcal N$ は $\mathcal C$ の部分空間と同相である。合成して、連続な単射 $e\colon\mathcal N\to X$ で、像への同相写像であるものを得る。
射影階層 の系「Borel でない解析集合」により、Borel でない解析集合 $D\subseteq\mathcal N$ がある。$e[D]$ は prop-as-closure により解析集合である。$e[D]$ が Borel 集合なら、$D=e^{-1}(e[D])$ は連続写像による逆像として Borel 集合となり、矛盾する。補集合の主張は cor-as-suslin による。$\square$

$D$ は普遍集合による対角線論法で作られ、具体的な形をしていない。自然な例として、無限の枝をもつ木の全体 $\mathrm{IF}$ がある。これは解析集合で、すべての解析集合が連続写像で帰着する(記述集合論 の命題「無限の枝をもつ木の集合」)。この比較の道具が Wadge還元 である。

測度と Baire の性質

解析集合は Borel 集合より広いが、測度論と位相の側からは Borel 集合と同じように扱える。次の 2 つの場合を同時に扱う。

  • 場合 (m):$\mu$ は $X$ の有限 Borel 測度である。$\mathcal S$ は、$E\mathbin\triangle S\subseteq N$ となる Borel 集合 $E,N$ で $\mu(N)=0$ となるものがあるような $S$($\mu$-可測集合)の全体、$\mathcal Z$ はその中の測度 $0$ の集合の全体である。
  • 場合 (c):$\mathcal S$ は Baire の性質をもつ集合の全体、$\mathcal Z$ は痩せた集合の全体である(Baireの性質)。
    どちらの場合も、$\mathcal S$ は Borel 集合を含む σ-代数で、$\mathcal Z\subseteq\mathcal S$ は可算和で閉じ、$\mathcal Z$ の元の部分集合はまた $\mathcal Z$ の元である。
被覆

どの $E\subseteq X$ についても、$\widetilde E\in\mathcal S$ で $E\subseteq\widetilde E$ となるものがあり、次を満たす:$Z\in\mathcal S$、$Z\subseteq\widetilde E\setminus E$ なら $Z\in\mathcal Z$ である。

場合 (m):$E$ を含む Borel 集合の測度の下限を $m$ とする。測度が $m$ に収束する、$E$ を含む Borel 集合の減少列をとり、その共通部分を $\widetilde E$ とすると、$\widetilde E$ は Borel 集合で $E\subseteq\widetilde E$、$\mu(\widetilde E)=m$ である。$Z\in\mathcal S$、$Z\subseteq\widetilde E\setminus E$ とする。$\widetilde E\setminus Z\in\mathcal S$ は $E$ を含むので、これを含む Borel 集合で測度の等しいものをとると、$\widetilde E\setminus Z$ の測度は $m$ 以上である。測度は有限なので $Z$ の測度は $0$ である。
場合 (c):$(V_n)$ を $X$ の可算開基、$W$ を $V_n\cap E$ が痩せている $V_n$ の和集合とする。$E\cap W$ は痩せているので、痩せた Borel 集合 $M\supseteq E\cap W$ がある(疎な集合の閉包の可算和をとる)。$\widetilde E:=(X\setminus W)\cup M$ は Borel 集合で $E$ を含む。$Z\in\mathcal S$、$Z\subseteq\widetilde E\setminus E$ で $Z$ が痩せていないとすると、開集合 $U\neq\emptyset$ で $Z\mathbin\triangle U$ が痩せたものがある。$\emptyset\ne V_n\subseteq U$ をとると、$V_n\setminus Z$ は痩せている。$Z\cap E=\emptyset$ なので $V_n\cap E\subseteq V_n\setminus Z$ も痩せていて、$V_n\subseteq W$ である。すると $V_n\cap Z\subseteq W\cap\widetilde E\subseteq M$ も痩せていて、$V_n$ 全体が痩せた集合になる。これは Baireのカテゴリー定理 に反する。$\square$

解析集合の正則性

Polish 空間の解析集合は、すべての有限 Borel 測度について可測であり、Baire の性質をもつ。補集合の共解析集合も同じである。

$\mathcal S,\mathcal Z$ を場合 (m) または (c) のものとする。$A=f[\mathcal N]$ とし(空集合は明らか)、有限列 $s$ について $A_s:=f[N_s]$ とおく。$A_s=\bigcup_iA_{s^\frown i}$ である。
lem-as-hull の $\widetilde{A_s}$ と $A_s$ の閉包の共通部分を $B_s$ とおく。$B_s\in\mathcal S$、$A_s\subseteq B_s\subseteq\widetilde{A_s}$ である。$D_s:=B_s\setminus\bigcup_iB_{s^\frown i}$ とおくと $D_s\in\mathcal S$ で、$A_s\subseteq\bigcup_iA_{s^\frown i}\subseteq\bigcup_iB_{s^\frown i}$ から $D_s\subseteq\widetilde{A_s}\setminus A_s$ である。lem-as-hull により $D_s\in\mathcal Z$ である。有限列は可算個なので $D:=\bigcup_sD_s\in\mathcal Z$ である。
$B_\emptyset\setminus D\subseteq A$ を示す。$x\in B_\emptyset\setminus D$ とする。$x\in B_\emptyset$ で $x\notin D_\emptyset$ なので、ある $i_0$ で $x\in B_{(i_0)}$ である。$x\notin D_{(i_0)}$ なので、ある $i_1$ で $x\in B_{(i_0,i_1)}$ である。これを続けると $y\in\mathcal N$ で、すべての $n$ について $x\in B_{y\restriction n}$ となるものを得る。$x$ は $f[N_{y\restriction n}]$ の閉包のすべてに入るので、thm-as-equiv の証明の 1 ⇒ 4 と同じく $x=f(y)\in A$ である。
したがって $B_\emptyset\setminus A\subseteq D$ であり、$\mathcal Z$ の元の部分集合として $B_\emptyset\setminus A\in\mathcal Z$ である。$A=B_\emptyset\setminus(B_\emptyset\setminus A)\in\mathcal S$ となる。$\mathcal S$ は補集合で閉じるので、共解析集合も $\mathcal S$ に属する。$\square$

$\sigma$-有限な Borel 測度 $\mu$ については、$X$ を測度有限の Borel 集合 $X_n$ の可算和に分け、$E\mapsto\mu(E\cap X_n)$ に上の定理を当てれば、同じ結論を得る。とくに $\mathbb R$ の解析集合は Lebesgue 可測である。これらは Mos09 演習 2H.5・2H.8(p. 83)にある。解析集合の Lebesgue 可測性は Lusin 1917、Baire の性質は Lusin と Sierpiński の 1923 年の結果である(同書 2I 節の注 13、p. 86)。
この証明は、$A_s=\bigcup_iA_{s^\frown i}$ という可算の分解、$\mathcal S$ が σ-代数であること、lem-as-hull を使っている。$A_s$ の閉包の代わりに $\mathcal S$ の元の族を置くと、同じ議論で $\mathcal S$ は Suslin 操作で閉じることが分かる(Mos09 2H.5・2H.8)。一方、共解析集合の射影である $\boldsymbol\Sigma^1_2$ 集合の性質は ZFC だけでは決まらない(射影階層 の節「規則性と決定性」)。

反例:条件を外すと成り立たないこと

外す条件反例成り立たなくなること
補集合も解析集合prop-as-non-borel の解析集合 $D$Borel 集合であること(cor-as-suslin)
写像の連続性Bernstein 集合 $B\subseteq\mathbb R$ と全射 $\mathcal N\to B$$\mathcal N$ の像が解析集合であること
定義域が Polish 空間部分空間 $B$ と包含写像 $B\to\mathbb R$連続像が解析集合であること
和が可算個$B$ を一点集合の和と見る和が解析集合であること
集合が解析集合$[0,1]$ の中の Vitali集合Lebesgue 可測であること
反例の確かめ

$D$ の行以外は選択公理を使う。

詳細

補集合の行:$D$ は解析集合だが Borel 集合でない。条件のうち満たされていないのは「補集合も解析集合」だけである。

連続性・定義域・可算和の行:$B$ は 完全集合性質 の定理「Bernstein 集合の存在」の集合で、非可算で空でない完全集合を含まない。同記事の定理「Suslin の定理」により、$B$ は解析集合でない。濃度は $2^{\aleph_0}$ なので全射 $\mathcal N\to B$ はあるが、def-as-analytic によりどれも連続でない。$B$ の部分空間位相は可分距離化可能で、包含写像 $B\to\mathbb R$ は連続な単射であり、像は $B$ である。部分空間 $B$ が Polish 空間なら thm-as-equiv の 2 に反するので、$B$ は Polish 空間でない。一点集合は閉集合なので解析集合であり、$B$ は非可算個のその和である。

可測性の行:Vitali集合 は Lebesgue 可測でないので、thm-as-regular により解析集合でない。

関連項目

参考文献

[1]
Yiannis N. Moschovakis, Descriptive Set Theory, 2nd ed., American Mathematical Society, 2009, Introduction(pp. 1–2)、演習 1E.6(p. 33)、2E.1(p. 65)、演習 2H.5・2H.8(p. 83)、2I 節の注 1・注 13(pp. 85–86)

Mathpediaは寄付と、参考文献の書籍リンク(Amazonアソシエイト)の紹介料で運営されています。 支援について / 寄付する