Baireのカテゴリー定理
概要
Baireのカテゴリー定理（Baire category theorem）とは、空でない完備距離空間および局所コンパクト Hausdorff 空間において、稠密な開集合の可算個の共通部分が再び稠密になる、すなわちこれらの空間が Baire 空間であることを主張する定理である。言い換えると、閉包の内部が空な集合（疎集合）を可算個集めた第1類集合は内部をもたず、空間自身は第2類集合である。$\mathbb{Q}$ は可算個の一点集合の和なので Baire 空間でなく、したがって完備距離化可能でない。この定理は、いたるところ微分不可能な連続関数の存在や、関数解析の一様有界性原理・開写像定理の証明の土台となる。
前提知識: 位相空間, 開集合, 閉集合, 内部, 閉包, 稠密, 距離空間, 完備距離空間, コンパクト空間
動機
位相空間 $X$ の部分集合には、「開集合を一つも含まないほど痩せている」ものがある。たとえば実数直線 $\mathbb{R}$ の中の一点や整数全体 $\mathbb{Z}$ は、どんな開区間も含まない。こうした痩せた集合を可算個集めても、なお空間全体を埋め尽くせないか——これが Baire のカテゴリー定理の問いである。答えは空間によって異なる。有理数全体 $\mathbb{Q}$ は可算個の一点集合の和集合であり、痩せた集合の可算和として自分自身を尽くしてしまう。一方、$\mathbb{R}$ や完備距離空間一般、また局所コンパクト空間であるHausdorff空間では、痩せた集合を可算個集めても空間の内部に穴すら開けられない。この「位相的な厚み」が、解析学における多くの存在定理（いたるところ微分不可能な連続関数の存在、一様有界性原理、開写像定理など）の共通の土台になる。
用語と定理の主張
$X$ を位相空間、$A\subset X$ を部分集合とする。
- $A$ が疎集合（nowhere dense set）、またはどこにも稠密でない集合（疎集合）であるとは、閉包の内部が空、すなわち $\operatorname{int}(\overline{A})=\emptyset$ となることをいう（どこにも稠密でない集合）。
- $A$ が第1類集合（set of the first category）、または痩せた集合（meager set）であるとは、疎集合の列 $A_1,A_2,\dots$ によって $A=\bigcup_{n\in\mathbb{N}}A_n$ と表せることをいう。
- 第1類でない部分集合を第2類集合（set of the second category）、または痩せていない集合（nonmeager set）という。
疎集合の部分集合は疎集合であり、したがって第1類集合の部分集合は第1類集合である。また第1類集合の可算個の和集合は第1類集合である（疎集合の列を並べ直せばよい。可算集合の可算和は可算である）。
位相空間 $X$ がBaire 空間（Baire space）であるとは、$X$ の稠密な開集合の任意の列 $U_1,U_2,\dots$ に対し、共通部分 $\bigcap_{n\in\mathbb{N}}U_n$ が $X$ で稠密となることをいう。
位相空間 $X$ について次は同値である。
- $X$ は Baire 空間である。
- $X$ の任意の第1類集合は内部が空である。
- $X$ の空でない任意の開集合は、$X$ の第2類集合である。
- $X$ の任意の第1類集合の補集合は $X$ で稠密である。
準備として、部分集合 $D\subset X$ について「$D$ が稠密」と「$X\setminus D$ の内部が空」は同値であることを注意する。実際、$\operatorname{int}(X\setminus D)=X\setminus\overline{D}$ であるから、$\overline{D}=X$ と $\operatorname{int}(X\setminus D)=\emptyset$ は同じことである。
1 ならば 2：$M=\bigcup_n A_n$（各 $A_n$ は疎集合）とする。$U_n:=X\setminus\overline{A_n}$ は開集合であり、$X\setminus U_n=\overline{A_n}$ の内部が空なので $U_n$ は稠密である。仮定 1 により $\bigcap_n U_n$ は稠密であり、その補集合 $\bigcup_n\overline{A_n}$ の内部は空である。$M\subset\bigcup_n\overline{A_n}$ なので $\operatorname{int}M=\emptyset$ である。
2 ならば 1：$U_1,U_2,\dots$ を稠密な開集合の列とする。$A_n:=X\setminus U_n$ は閉集合で、$\overline{A_n}=A_n$ の内部は（$U_n$ が稠密なので）空である。よって各 $A_n$ は疎集合であり、$M:=\bigcup_n A_n$ は第1類集合である。仮定 2 により $\operatorname{int}M=\emptyset$ であり、$X\setminus M=\bigcap_n U_n$ は稠密である。
2 と 3 の同値：2 を仮定し、空でない開集合 $W$ が第1類集合であったとすると、$W=\operatorname{int}W=\emptyset$ となり矛盾する。逆に 3 を仮定し、第1類集合 $M$ の内部 $W$ が空でないとすると、$W\subset M$ は第1類集合の部分集合なので第1類集合であり、3 に反する。
2 と 4 の同値：第1類集合 $M$ について、「$X\setminus M$ が稠密」と「$M$ の内部が空」は冒頭の注意により同値である。$\square$
定理と証明
Baire のカテゴリー定理は、広いクラスの空間が Baire 空間であることを主張する。標準的な定式化は次の二つである。
- 空でない完備距離空間は Baire 空間である。すなわち、完備距離空間 $(X,d)$ の稠密な開集合の列 $U_1,U_2,\dots$ に対し、$\bigcap_{n\in\mathbb{N}}U_n$ は $X$ で稠密である。
- 局所コンパクトな Hausdorff 空間は Baire 空間である。
したがって、これらの空間は（空でなければ）それ自身の第2類集合であり、可算個の疎集合の和集合として表すことはできない。
$(X,d)$ を空でない完備距離空間、$U_1,U_2,\dots$ を稠密な開集合の列とし、$W$ を空でない開集合とする。$W\cap\bigcap_n U_n\neq\emptyset$ を示せばよい。以下、$B(x,r):=\{y\in X\mid d(x,y)< r\}$ を開球、$\overline{B}(x,r):=\{y\in X\mid d(x,y)\le r\}$ を閉球とする。閉球は閉集合であり、$\overline{B}(x,r)\subset B(x,2r)$ である。
まず、次の性質をもつ点列 $(x_n)_{n\ge1}$ と正数列 $(r_n)_{n\ge1}$ を帰納的に構成する。
- $\overline{B}(x_1,r_1)\subset W\cap U_1$、
- $\overline{B}(x_{n+1},r_{n+1})\subset B(x_n,r_n)\cap U_{n+1}$（$n\ge1$）、
- $0< r_n\le 1/n$（$n\ge1$）。
$U_1$ が稠密で $W$ が空でない開集合なので、$W\cap U_1$ は空でない開集合である。その点 $x_1$ をとると、ある $\rho>0$ について $B(x_1,2\rho)\subset W\cap U_1$ となる。$r_1:=\min\{\rho,1\}$ とおけば $\overline{B}(x_1,r_1)\subset B(x_1,2r_1)\subset W\cap U_1$ である。$x_n,r_n$ まで構成されたとき、$B(x_n,r_n)$ は空でない開集合、$U_{n+1}$ は稠密なので $B(x_n,r_n)\cap U_{n+1}$ は空でない開集合である。その点 $x_{n+1}$ と、$B(x_{n+1},2\rho)\subset B(x_n,r_n)\cap U_{n+1}$ となる $\rho>0$ をとり、$r_{n+1}:=\min\{\rho,1/(n+1)\}$ とおけば、求める条件を満たす。
構成により閉球の列は $\overline{B}(x_1,r_1)\supset\overline{B}(x_2,r_2)\supset\cdots$ と縮小しており、$m\ge n$ ならば $x_m\in\overline{B}(x_n,r_n)$、すなわち $d(x_n,x_m)\le r_n\le 1/n$ である。よって $(x_n)$ は Cauchy列であり、$X$ の完備性から極限 $x:=\lim_{n\to\infty}x_n$ が存在する。各 $n$ について、$m\ge n$ なる $x_m$ はすべて閉集合 $\overline{B}(x_n,r_n)$ に属するので、極限 $x$ も $\overline{B}(x_n,r_n)$ に属する。
以上より、すべての $n\ge1$ について $x\in\overline{B}(x_n,r_n)\subset U_n$ であり、また $x\in\overline{B}(x_1,r_1)\subset W$ である。ゆえに $x\in W\cap\bigcap_n U_n$ となり、共通部分は稠密である。$\square$
閉球の縮小列の代わりにコンパクトな閉包をもつ開集合の縮小列を用い、完備性の代わりにコンパクト性を用いる。次の事実を使う：局所コンパクト Hausdorff 空間 $X$ の点 $x$ と、$x$ を含む開集合 $O$ に対し、$x$ を含む開集合 $V$ で $\overline{V}$ がコンパクトかつ $\overline{V}\subset O$ となるものが存在する（Mun00 §29, Theorem 29.2）。
$X$ を局所コンパクト Hausdorff 空間、$U_1,U_2,\dots$ を稠密な開集合の列、$W$ を空でない開集合とする。$W\cap U_1$ は空でない開集合なので、その点 $x_1$ と、上の事実による開集合 $V_1\ni x_1$ で $\overline{V_1}$ がコンパクトかつ $\overline{V_1}\subset W\cap U_1$ となるものをとる。$V_n$ まで構成されたとき、$V_n\cap U_{n+1}$ は空でない開集合なので、その点 $x_{n+1}$ と開集合 $V_{n+1}\ni x_{n+1}$ で $\overline{V_{n+1}}$ がコンパクトかつ $\overline{V_{n+1}}\subset V_n\cap U_{n+1}$ となるものをとる。
こうして得られる閉集合の列 $\overline{V_1}\supset\overline{V_2}\supset\cdots$ はどれも空でなく、すべてコンパクト空間 $\overline{V_1}$ の閉部分集合である。有限個の共通部分 $\overline{V_1}\cap\cdots\cap\overline{V_k}=\overline{V_k}$ は空でないので、コンパクト性（有限交叉性をもつ閉集合族の共通部分は空でない）により $\bigcap_n\overline{V_n}\neq\emptyset$ である。その点 $x$ は、各 $n$ について $x\in\overline{V_n}\subset U_n$ を満たし、$x\in\overline{V_1}\subset W$ でもある。ゆえに $W\cap\bigcap_n U_n\neq\emptyset$ である。$\square$
最後の主張は prop-baire-category-equivalent の 3 から従う：空でない Baire 空間 $X$ は、それ自身が空でない開集合なので第2類集合である。なお主張 1 と 2 は互いに他方を含まない：$\mathbb{R}$ は両方の仮定を満たすが、Hilbert空間 $\ell^2$ は完備距離空間で局所コンパクトでなく、順序数空間 $[0,\omega_1)$ は局所コンパクト Hausdorff で距離化可能空間でない。
帰結
$X$ を空でない Baire 空間（たとえば空でない完備距離空間）とし、閉集合の列 $F_1,F_2,\dots$ が $X=\bigcup_{n\in\mathbb{N}}F_n$ を満たすとする。このとき、ある $n$ について $F_n$ の内部は空でない。
すべての $F_n$ の内部が空であるとすると、$F_n$ は閉集合なので $\operatorname{int}(\overline{F_n})=\operatorname{int}F_n=\emptyset$、すなわち各 $F_n$ は疎集合であり、$X=\bigcup_n F_n$ は第1類集合となる。これは $X$ が第2類集合であること（prop-baire-category-equivalent の 3）に反する。$\square$
$X$ を Baire 空間、$W\subset X$ を開集合とする。このとき相対位相を入れた $W$ も Baire 空間である。
$U_1,U_2,\dots$ を $W$ の稠密な開集合の列とする。$W$ が $X$ の開集合なので、各 $U_n$ は $X$ の開集合でもある。$\widetilde{U}_n:=U_n\cup(X\setminus\overline{W})$ とおくと、これは $X$ の開集合である。$\widetilde{U}_n$ が $X$ で稠密であることを示す。$O$ を $X$ の空でない開集合とする。$O\cap W\neq\emptyset$ ならば、$O\cap W$ は $W$ の空でない開集合なので $U_n$ と交わり、よって $O$ は $\widetilde{U}_n$ と交わる。$O\cap W=\emptyset$ ならば、$O$ が開集合なので $O\cap\overline{W}=\emptyset$、すなわち $O\subset X\setminus\overline{W}\subset\widetilde{U}_n$ である。
$X$ が Baire 空間なので $\bigcap_n\widetilde{U}_n$ は $X$ で稠密である。$O$ を $W$ の空でない開集合とすると、$O$ は $X$ の空でない開集合でもあるので、点 $x\in O\cap\bigcap_n\widetilde{U}_n$ がとれる。$x\in O\subset W$ なので $x\notin X\setminus\overline{W}$ であり、したがって各 $n$ について $x\in U_n$ である。ゆえに $\bigcap_n U_n$ は $W$ で稠密である。$\square$
$\mathbb{Q}$ に $\mathbb{R}$ からの相対位相を入れる。各一点集合 $\{q\}$（$q\in\mathbb{Q}$）は $\mathbb{Q}$ の閉集合であり、$q$ を含む $\mathbb{Q}$ の任意の開集合はある $(q-\varepsilon,q+\varepsilon)\cap\mathbb{Q}$ を含み、これは無限集合なので $\{q\}$ に含まれない。よって $\{q\}$ の内部は空であり、$\{q\}$ は $\mathbb{Q}$ の疎集合である。$\mathbb{Q}$ は可算なので $\mathbb{Q}=\bigcup_{q\in\mathbb{Q}}\{q\}$ は $\mathbb{Q}$ 自身の第1類集合であり、その内部は $\mathbb{Q}\neq\emptyset$ である。したがって $\mathbb{Q}$ は prop-baire-category-equivalent の条件 2 を満たさず、Baire 空間でない。
この反例は次のことを示す。$\mathbb{Q}$ は距離空間であり（$\mathbb{R}$ の部分空間として）可分空間でもあるが、Baire 空間ではない。したがって thm-baire-category の 1 における完備性の仮定、2 における局所コンパクト性の仮定は落とせない。さらに、Baire 性は位相だけで決まる性質なので、$\mathbb{Q}$ の位相と両立する完備な距離は存在せず（$\mathbb{Q}$ は完備距離化可能空間でない）、$\mathbb{Q}$ は局所コンパクトでもない。
$\mathbb{Q}$ が $\mathbb{R}$ の G_δ-集合でないこと、および無理数全体が F_σ-集合でないことも、thm-baire-category から導かれる。これらの証明は F_σ-集合 に譲る。
$\mathbb{R}$ において「第1類（位相的に痩せている）」と「Lebesgue測度が $0$（測度の意味で小さい）」は、どちらも「無視できる集合」の概念でありながら、互いに含まない。実際、有理数を $q_1,q_2,\dots$ と並べ、$m\ge1$ に対し
$$U_m:=\bigcup_{k\ge1}\left(q_k-2^{-k-m},\ q_k+2^{-k-m}\right)$$
とおく。$U_m$ は $\mathbb{Q}$ を含む開集合なので $\mathbb{R}$ で稠密であり、Lebesgue 測度は $\lambda(U_m)\le\sum_{k\ge1}2^{1-k-m}=2^{1-m}$ である。$G:=\bigcap_{m\ge1}U_m$ とおくと、thm-baire-category により $G$ は稠密な $G_\delta$-集合であり、$\lambda(G)\le 2^{1-m}$（すべての $m$）から $\lambda(G)=0$ である。
補集合 $M:=\mathbb{R}\setminus G=\bigcup_m(\mathbb{R}\setminus U_m)$ は閉集合 $\mathbb{R}\setminus U_m$ の可算和であり、各 $\mathbb{R}\setminus U_m$ は稠密な開集合の補集合なので内部が空、すなわち疎集合である。よって $M$ は第1類集合であるが、$\lambda(\mathbb{R}\setminus M)=\lambda(G)=0$ なので $M$ は $\mathbb{R}$ のほとんどすべての点を含む。すなわち、$M$ は「第1類集合」を満たし「測度零」を満たさず、$G$ は「測度零」を満たし「第1類集合」を満たさない（$G$ が第1類なら $\mathbb{R}=G\cup M$ が第1類となり thm-baire-category に反する）。この例は「第1類ならば測度零」および「測度零ならば第1類」の両方の含意を破る。二つの小ささの概念の類似と相違を体系的に論じたのが Oxt80 である。
Baire のカテゴリー定理は、具体的な構成が難しい対象の存在を「そのような対象の全体が第2類集合であるから空でない」という形で示す道具として、解析学の随所で使われる。
- いたるところ微分不可能な連続関数の存在：閉区間 $[0,1]$ 上の連続関数全体に一様収束の距離を入れた完備距離空間 $C([0,1])$ において、少なくとも一点で有限な片側微分係数をもつ関数の全体は第1類集合である。したがって、どの点でも微分可能でない連続関数が存在し、しかもそれらは $C([0,1])$ で稠密である（Mun00 §49、Oxt80 Chapter 11）。
- 一様有界性原理（Banach–Steinhaus の定理）：Banach空間 $X$ からノルム空間への有界線形作用素の族が各点で有界ならば、作用素ノルムが一様に有界である。証明では、$F_n:=\{x\in X\mid \text{すべての作用素 }T\text{ について }\|Tx\|\le n\}$ が $X$ を覆う閉集合の列であることから cor-baire-category-closed-cover を適用する（Fol99 §5.3）。
- 開写像定理：Banach 空間の間の有界線形全射は開写像である。ここでも、値域を可算個の閉集合で覆い cor-baire-category-closed-cover を用いる（Fol99 §5.3）。
いずれの証明も本記事の範囲を超えるので、それぞれの記事と上記の文献に譲る。
補足
「カテゴリー（類）」という語は本記事では集合の第1類・第2類という分類を指し、圏（category）とは無関係である。また「Baire 空間」という語は、本記事の意味（def-baire-category-space）のほかに、記述集合論で自然数列の空間 $\mathbb{N}^{\mathbb{N}}$（Baire空間）を指すためにも使われる。$\mathbb{N}^{\mathbb{N}}$ は完備距離化可能なので本記事の意味でも Baire 空間であるが、二つの用法は区別する必要がある。Baire 性のゲームによる特徴付けについては Banach-Mazurゲーム を参照。
thm-baire-category の 1 は距離 $d$ の完備性を仮定するが、結論の Baire 性は位相的性質である。したがって、位相と両立する完備距離が一つでも存在する空間（完備距離化可能空間）はすべて Baire 空間である。たとえば $\mathbb{R}$ の開区間 $(0,1)$ は通常の距離では完備でないが $\mathbb{R}$ と同相写像で結ばれるので Baire 空間である（prop-baire-category-open-subspace からも従う）。完備距離化可能空間の部分空間が完備距離化可能であることと、その部分集合が $G_\delta$-集合であることは同値である（Engelking89 §4.3, Theorems 4.3.23–4.3.24）。この事実により、$\mathbb{R}$ の稠密な $G_\delta$-集合（たとえば無理数全体）も Baire 空間であることがわかる。
関連項目
- 前提: 位相空間, 稠密, 疎集合, 完備距離空間, 局所コンパクト空間, Hausdorff空間
- 比較: G_δ-集合, F_σ-集合, Lebesgue測度, Baire空間
- 直後に読む: Cauchy列, 完備化, Cantorの共通部分定理
- 発展: 一様有界性原理, 開写像定理, Banach空間, Banach-Mazurゲーム
参考文献
Mathpediaは寄付と、参考文献の書籍リンク（Amazonアソシエイト）の紹介料で運営されています。 支援について ／ 寄付する
