コゼロ集合(cozero set)とは、位相空間 $X$ 上の連続関数 $f\colon X\to[0,1]$ によって $\{x\mid f(x)\neq0\}$ と書ける部分集合のことであり、その補集合 $\{x\mid f(x)=0\}$ を零集合という。コゼロ集合は開集合かつ閉集合の可算和、零集合は閉集合かつ開集合の可算共通部分であり、コゼロ集合の全体は有限個の共通部分と可算個の合併について閉じ、$X$ を覆う二つのコゼロ集合は一つの連続関数で同時に切り出せる。距離空間ではすべての開集合がコゼロ集合であり、空間が完全正則であることはコゼロ集合が開基をなすことと同値である。一方、順序数空間 $[0,\omega_1]$ の開集合 $[0,\omega_1)$ はコゼロ集合でない。
以下、位相空間 $X$ 上の連続関数とは、$X$ から実数直線 $\mathbb{R}$(通常の位相)への連続写像をいう。連続関数の和・差・積、分母が $0$ にならない商、二つの連続関数の各点での最大値 $\max(f,g)$・最小値 $\min(f,g)$、絶対値 $|f|$ は連続関数である(実数の演算の連続性から従う基本事項として用いる)。
位相空間 $X$ の部分集合 $A$ が $X$ のコゼロ集合(cozero set、余零集合)であるとは、ある連続関数 $f\colon X\to[0,1]$ が存在して $A=f^{-1}((0,1])=\{x\in X\mid f(x)\neq0\}$ が成り立つことをいう。また、$X$ の部分集合 $Z$ が $X$ の零集合(zero set)であるとは、ある連続関数 $f\colon X\to[0,1]$ が存在して $Z=f^{-1}(0)=\{x\in X\mid f(x)=0\}$ が成り立つことをいう。連続関数 $f$ に対し、$\operatorname{coz}(f):=\{x\mid f(x)\neq0\}$、$Z(f):=\{x\mid f(x)=0\}$ と書く。
定義から、$A$ がコゼロ集合であることと $X\setminus A$ が零集合であることは同値である。
位相空間 $X$ の部分集合 $A$ について、$A$ がコゼロ集合であることと、ある連続関数 $g\colon X\to\mathbb{R}$ が存在して $A=\{x\in X\mid g(x)\neq0\}$ となることとは同値である。零集合についても同様である。
$[0,1]$ に値をとる連続関数は $\mathbb{R}$ に値をとる連続関数である。逆に $g\colon X\to\mathbb{R}$ が連続なら、$f:=\min(1,|g|)$ は連続で $[0,1]$ に値をとり、$f(x)\neq0\iff g(x)\neq0$ である。$\square$
コゼロ集合は「連続関数が $0$ でない場所」、零集合は「連続関数が $0$ になる場所」である。開集合と閉集合のうち、連続関数で切り出せるものだけを取り出した概念であり、コゼロ集合は開集合、零集合は閉集合になるが、逆は一般に成り立たない。距離空間ではすべての開集合がコゼロ集合であり、完全正則空間ではコゼロ集合が開基をなす。連続関数の $\max$・$\min$・級数を使うと、コゼロ集合の全体は有限交叉と可算和について閉じていることが分かる。
距離空間 $(X,d)$ の任意の開集合 $U$ はコゼロ集合であり、任意の閉集合は零集合である(prop-cozero-set-metric)。特に $\mathbb{R}$ の開区間 $(a,b)$ は、$f(x)=\min\{1,\ \operatorname{dist}(x,\mathbb{R}\setminus(a,b))\}$ により $(a,b)=\operatorname{coz}(f)$ と書けるコゼロ集合である。
任意の位相空間 $X$ について、$X$(定数関数 $1$)と $\emptyset$(定数関数 $0$)はコゼロ集合であり零集合でもある。離散空間では任意の部分集合 $A$ が、指示関数($A$ 上で $1$、他で $0$)によりコゼロ集合であり、同時に零集合でもある。
次の例は「開集合 ⇒ コゼロ集合」および「閉集合 ⇒ 零集合」が成り立たないことを示す。$\omega_1$ を最小の非可算順序数とし、$X=[0,\omega_1]=\omega_1\cup\{\omega_1\}$ に順序位相($[0,\beta)$、$(\alpha,\beta)$、$(\alpha,\omega_1]$ を開基とする位相)を入れる。$U=[0,\omega_1)$ は開集合だが、コゼロ集合ではない。実際、コゼロ集合は閉集合の可算個の合併である(prop-cozero-set-open-fsigma)が、$U$ はそうでない。$U=\bigcup_{n}F_n$($F_n$ は閉集合)と書けたとすると、各 $X\setminus F_n$ は $\omega_1$ の開近傍なので、ある $\alpha_n<\omega_1$ について $(\alpha_n,\omega_1]\subset X\setminus F_n$ である。可算個の可算順序数の上限 $\beta=\sup_n\alpha_n$ は $\omega_1$ より小さく、$\beta+1<\omega_1$ なので $\beta+1\in U$ であり、一方 $\beta+1>\alpha_n$ より $\beta+1\in(\alpha_n,\omega_1]\subset X\setminus F_n$ がすべての $n$ で成り立つ。これは $\beta+1\in U=\bigcup_nF_n$ に反する。したがって $U$ はコゼロ集合でなく、その補集合である閉集合 $\{\omega_1\}$ は零集合でない。
コゼロ集合は開集合であり、閉集合の可算個の合併($F_\sigma$ 集合)である。零集合は閉集合であり、開集合の可算個の共通部分($G_\delta$ 集合)である。
$A=\operatorname{coz}(f)$、$f\colon X\to[0,1]$ 連続とする。$(0,1]$ は $[0,1]$ の開集合なので $A=f^{-1}((0,1])$ は開集合である。また $F_n:=f^{-1}([1/n,1])$($n\ge1$)は閉集合 $[1/n,1]$ の逆像なので閉集合であり、$f(x)>0\iff$ ある $n$ について $f(x)\ge1/n$ なので $A=\bigcup_{n\ge1}F_n$ である。零集合については補集合をとればよい。$\square$
位相空間 $X$ のコゼロ集合の全体は、有限個の共通部分と可算個の合併について閉じている。すなわち、$A$、$B$ がコゼロ集合なら $A\cap B$、$A\cup B$ はコゼロ集合であり、$A_1,A_2,\dots$ がコゼロ集合なら $\bigcup_{n\ge1}A_n$ はコゼロ集合である。零集合の全体は有限個の合併と可算個の共通部分について閉じている。
$A=\operatorname{coz}(f)$、$B=\operatorname{coz}(g)$ とする。$\min(f,g)$、$\max(f,g)$ は $[0,1]$ に値をとる連続関数で、$\min(f,g)(x)\neq0\iff f(x)\neq0$ かつ $g(x)\neq0$、$\max(f,g)(x)\neq0\iff f(x)\neq0$ または $g(x)\neq0$ なので、$A\cap B=\operatorname{coz}(\min(f,g))$、$A\cup B=\operatorname{coz}(\max(f,g))$ である。
可算和:$A_n=\operatorname{coz}(f_n)$ とし、$f(x):=\sum_{n\ge1}2^{-n}f_n(x)$ とおく。各項は $0\le2^{-n}f_n(x)\le2^{-n}$ なので級数は各点で収束し、$0\le f(x)\le\sum_n2^{-n}=1$ である。$f$ は連続である。実際、部分和 $s_N=\sum_{n\le N}2^{-n}f_n$ は連続で、任意の $x$ について $|f(x)-s_N(x)|\le\sum_{n>N}2^{-n}=2^{-N}$ である。$x_0\in X$ と $\varepsilon>0$ に対し、$2^{-N}<\varepsilon/3$ となる $N$ をとり、$s_N$ の連続性により $x_0$ の近傍 $V$ で $x\in V\Rightarrow|s_N(x)-s_N(x_0)|<\varepsilon/3$ となるものをとると、$x\in V$ について $|f(x)-f(x_0)|\le|f(x)-s_N(x)|+|s_N(x)-s_N(x_0)|+|s_N(x_0)-f(x_0)|<\varepsilon$ である。最後に、各項が非負なので $f(x)\neq0\iff$ ある $n$ について $f_n(x)\neq0$ であり、$\bigcup_nA_n=\operatorname{coz}(f)$ である。零集合については補集合をとればよい。$\square$
距離空間 $(X,d)$ の任意の開集合はコゼロ集合であり、任意の閉集合は零集合である。
$U$ を開集合とし、$C=X\setminus U$ とおく。$C=\emptyset$ なら $U=X$ はコゼロ集合である。$C\neq\emptyset$ のとき、$\operatorname{dist}(x,C):=\inf\{d(x,c)\mid c\in C\}$ とおく。三角不等式 $d(x,c)\le d(x,y)+d(y,c)$ から $\operatorname{dist}(x,C)\le d(x,y)+\operatorname{dist}(y,C)$ であり、$x$ と $y$ を入れ替えて $|\operatorname{dist}(x,C)-\operatorname{dist}(y,C)|\le d(x,y)$ を得るので、$x\mapsto\operatorname{dist}(x,C)$ は連続である。$C$ は閉集合なので、$\operatorname{dist}(x,C)=0\iff x\in C$ である($x\notin C$ なら $x$ を中心とするある開球が $C$ と交わらないので $\operatorname{dist}(x,C)>0$。$x\in C$ なら $d(x,x)=0$)。よって $f(x):=\min\{1,\operatorname{dist}(x,C)\}$ は $[0,1]$ に値をとる連続関数で $\operatorname{coz}(f)=X\setminus C=U$ である。閉集合については補集合をとればよい。$\square$
$A$、$B$ を位相空間 $X$ のコゼロ集合とし、$A\cup B=X$ とする。このとき連続関数 $h\colon X\to[0,1]$ で $h^{-1}((0,1])=A$ かつ $h^{-1}([0,1))=B$ を満たすものが存在する。
$A=\operatorname{coz}(f)$、$B=\operatorname{coz}(g)$ とする。$A\cup B=X$ より各点で $f(x)>0$ または $g(x)>0$ であり、$f+g>0$ である。$h:=f/(f+g)$ とおくと $h$ は連続で $0\le h\le1$ である。$h(x)>0\iff f(x)>0\iff x\in A$ であり、$h(x)<1\iff g(x)>0\iff x\in B$ である。$\square$
位相空間 $X$ が完全正則であるとは、任意の閉集合 $F$ と $x\notin F$ に対し、連続関数 $f\colon X\to[0,1]$ で $f(x)=1$ かつ $f|_F=0$ となるものが存在することをいう(分離公理 $T_1$ は仮定しない)。$X$ が完全正則であることと、コゼロ集合の全体が $X$ の開基をなすこととは同値である。
コゼロ集合は開集合なので(prop-cozero-set-open-fsigma)、「開基をなす」とは、任意の開集合 $U$ と $x\in U$ に対し $x\in A\subset U$ となるコゼロ集合 $A$ が存在することである。
$X$ が完全正則なら、$F=X\setminus U$ に対し $f(x)=1$、$f|_F=0$ なる $f$ をとると、$A=\operatorname{coz}(f)$ は $x$ を含み $U$ に含まれる。逆に、コゼロ集合が開基をなすとし、閉集合 $F$ と $x\notin F$ をとる。$U=X\setminus F$ は $x$ を含む開集合なので、$x\in\operatorname{coz}(g)\subset U$ となる連続関数 $g\colon X\to[0,1]$ がある。$g(x)>0$ であり、$F$ 上で $g=0$ である。$f:=\min(1,\ g/g(x))$ は連続で $[0,1]$ に値をとり、$f(x)=1$、$f|_F=0$ である。$\square$
正規空間 $X$ で任意の閉集合が $G_\delta$ 集合であるものを完全正規空間という。完全正規空間では任意の閉集合が零集合、任意の開集合がコゼロ集合になる(Vedenissoff の定理。Engelking89 §1.5 を引用し、本記事では証明しない)。距離空間については、任意の閉集合が零集合であることを prop-cozero-set-metric で直接示した(距離空間が正規であることは本記事では扱わない)。
| 含意 | 根拠 | 逆が成り立たない例 |
|---|---|---|
| コゼロ集合 ⇒ 開集合 | prop-cozero-set-open-fsigma | rem-cozero-set-counterexample($[0,\omega_1)$ は開だがコゼロ集合でない) |
| 零集合 ⇒ 閉集合 | prop-cozero-set-open-fsigma | rem-cozero-set-counterexample($\{\omega_1\}$ は閉だが零集合でない) |
| コゼロ集合 ⇒ $F_\sigma$ 集合、零集合 ⇒ $G_\delta$ 集合 | prop-cozero-set-open-fsigma | 本記事では扱わない |
| 距離空間:開集合 ⇔ コゼロ集合 | prop-cozero-set-metric | — |
| 完全正則空間:コゼロ集合は開基 | prop-cozero-set-completely-regular | — |
零集合・コゼロ集合は、Tychonoff 空間の理論(Stone–Čech コンパクト化、連続関数環 $C(X)$)で基本的な役割を果たす(GJ60 第 1 章)。