はじめに、位相空間を定義する動機付けとして、Euclid空間 $\mathbb{R}^n$ の場合に、写像の連続性を開集合の概念を通して扱うことを考えてみる。ここでは、 $\varepsilon$-$\delta$ 論法を用いた連続性の定義にすでに触れていることが望ましい。
このテキストでは、$\mathbb{N}$ によって正の整数の全体を表す。$n\in\mathbb{N}$ に対して、Euclid空間 $\mathbb{R}^n$ とは、実数 $n$ 個の組 $(x_1,\ldots, x_n)$ の全体からなる集合である。$x=(x_1,\ldots, x_n)$, $y=(y_1,\ldots, y_n)\in\mathbb{R}^n$ と $t\in\mathbb{R}$ に対して、
$$
x\pm y=(x_1\pm y_1,\ldots, x_n\pm y_n), \quad tx=(tx_1,\ldots, tx_n)
$$
と定義する。$x=(x_1,\ldots, x_n), y=(y_1,\ldots, y_n)\in\mathbb{R}^n$ に対して、
$x$ と $y$ のEuclid内積 $x\cdot y$ および $x$ のEuclidノルム $\|x\|$ を
$$
x\cdot y=\sum_{i=1}^n x_iy_i,\quad \|x\|=\sqrt{x\cdot x}=\sqrt{\sum_{i=1}^n x_i^2}
$$
で定義する。Euclidノルム $\|x\|$ は、$x$ と原点 $0=(0,\ldots,0)$ の間の通常の意味での距離であり、常に0以上の値をとる。このとき、次が成り立つ。
$x, y\in\mathbb{R}^n$ に対して、$(x\cdot y)^2\leq \|x\|^2\|y\|^2$ である。
$x=0$ の場合、不等式は明らかに成立するので $x\neq 0$ とする。
$t\in\mathbb{R}$ に対して $\varphi(t)=\|tx+y\|^2$ とおくと
$$
\varphi(t)=t^2\|x\|^2+2 tx\cdot y+\|y\|^2
$$
である。$\varphi(t)$ は $t$ の2次関数であって、$t$ によらず
常に $\varphi(t)\geq 0$ である。
よって、その判別式は0以下である。これから、求める不等式が得られる。
任意の $x, y\in\mathbb{R}^n$ に対して、$\|x+y\|\leq \|x\|+\|y\|$ が成り立つ。
$x=(x_1,\ldots, x_n)$, $y=(y_1,\ldots, y_n)$ とすると、
$$
(\|x\|+\|y\|)^2-\|x+y\|^2=(\|x\|^2+2\|x\|\|y\|+\|y\|^2)-(\|x\|^2+2x\cdot y+\|y\|^2)=2(\|x\|\|y\|-x\cdot y)
$$
であるが、
命題1
により最右辺は0以上となる。よって、求める不等式が得られる。
一般に、二点 $x, y\in\mathbb{R}^n$ の間の距離 $d(x, y)$ は
$$
d(x, y)=\|x-y\|=\sqrt{(x_1-y_1)^2+\cdots+(x_n-y_n)^2}
$$
により定義される。すると、次が成り立つ。
任意の $x, y, z\in\mathbb{R}^n$ に対して、次が成り立つ。
はじめの二つの性質は明らかだろう。最後の三角不等式は、
命題2
により
$$
d(x, z)=\|x-z\|=\|(x-y)+(y-z)\|\leq \|x-y\|+\|y-z\|=d(x, y)+d(y, z)
$$
となることから分かる。
距離の概念を用いて、Euclid空間における開球体の概念が定義できる。
$x\in\mathbb{R}^n$ と $r>0$ に対して、$\mathbb{R}^n$ の部分集合 $B(x, r)$ を
$$
B(x,r)=\{y\in\mathbb{R}^n\,|\,d(y,x)< r\}
$$
により定義する。$B(x, r)$ を、$x$ を中心とする半径 $r$ の開球体という。$\square$
さて、Euclid空間の間の写像$f\colon \mathbb{R}^n\to\mathbb{R}^m$ を考えよう。($n$ と $m$ は異なっていてもよい。)この写像 $f$ が点 $a\in\mathbb{R}^n$ において連続であることは、次のように定義されるのだった。
写像 $f\colon \mathbb{R}^n\to\mathbb{R}^m$ が点 $a\in\mathbb{R}^n$ において連続であることは、次のことと同値である:
:「任意の $\varepsilon>0$ に対して、ある $\delta>0$ が存在して $f(B_{\mathbb{R}^n}(a,\delta))\subset B_{\mathbb{R}^m}(f(a), \varepsilon)$ となる。」$\square$
ここでも、開球体が $\mathbb{R}^n$ 内のものか $\mathbb{R}^m$ 内のものかをはっきりさせるため、あえて添字に $\mathbb{R}^n$, $\mathbb{R}^m$ を付けて、$B_{\mathbb{R}^n}(a,\delta)$, $B_{\mathbb{R}^m}(f(a), \varepsilon)$ のような表記を用いた。
実は、連続性の概念は、次に導入する開集合の言葉によってより簡潔に言い表される。
$U$ を $\mathbb{R}^n$ の部分集合とする。$U$ が $\mathbb{R}^n$ の開集合であるとは、任意の $x\in Us$ に対して、ある $r>0$ が存在して $B(x, r)\subset U$ が成り立つことをいう。$\square$
つまり、$U$ が開集合とは、$U$ のどの点に対しても、その点を中心とする十分小さい開球体が $U$ に含まれていることである。すでに導入した開球体は開集合の例である。すなわち、
任意の $x\in\mathbb{R}^n$ と $r>0$ に対して、開球体 $B(x, r)$ は $\mathbb{R}^n$ の開集合である。
$x\in\mathbb{R}^n,$ $r>0$ を任意に与える。$B(x, r)$ が開集合であることを示そう。$y\in B(x, r)$ とする。このとき、$B(y, r')\subset B(x, r)$ であるような $r'>0$ が存在することを示せばよい。$B(x, r)$ の定義により、$d(x, y)< r$ である。そこで、$r'=r-d(x, y)$ とおけば、$r'>0$ である。このとき、任意に $z\in B(y, r')$ を与えると、$d(y, z)< r'$ であるので、
命題3
の三角不等式により、
$$
d(x, z)\leq d(x, y)+d(y, z)< d(x, y)+r'=r
$$
である。よって、$z\in B(x, r)$ である。したがって、$B(y, r')\subset B(x, r)$ である。これで、$B(x, r)$ が開集合であることが示された。
平面 $\mathbb{R}^2$ の場合でいえば、上の結果は、円の内部
$$
\{(x,y)\in\mathbb{R}^2\,|\,(x-a)^2+(y-b)^2< r^2\}
$$
が $\mathbb{R}^2$ の開集合であることを意味している。
このほかにも、例えば、「境界を含まない長方形」
$$
\{(x,y)\in\mathbb{R}^2\,|\,a< x< b,\, c< y< d\}
$$
は $\mathbb{R}^2$ の開集合である(証明してみよ)。開集合の直観的なイメージとしては、ひとまずこのような平面内の「境界を含まない図形」を思い浮かべるのがよいだろう。
開集合は、次の性質をもつ。これは、後の位相空間の定義を理解するために重要である。
$\mathbb{R}^n$ の開集合について、以下のことが成り立つ。
さて、開集合の言葉を用いると、次のように写像の連続性を簡潔な言葉で言い表すことができる。
写像 $f\colon \mathbb{R}^n\to\mathbb{R}^m$ に対して、次は同値である。
まず、(1) $\Rightarrow$ (2) を示す。$f\colon\mathbb{R}^n\to\mathbb{R}^m$ を連続写像とし、$V\subset\mathbb{R}^m$ を $\mathbb{R}^m$ の開集合とする。$f^{-1}(V)=\{x\in\mathbb{R}^n\,|\,f(x)\in V\}$ が $\mathbb{R}^n$ の開集合であることを示そう。そこで、$x\in f^{-1}(V)$ とする。このとき、$f(x)\in V$ で $V$ は $\mathbb{R}^m$ の開集合だから、ある $\varepsilon>0$ が存在して、$B_{\mathbb{R}^m}(f(x), \varepsilon)\subset V$ となる。いま、$f$ は連続であるから、とくに点 $x$ において連続である。したがって、
命題4
により、$\delta>0$ が存在して、
$$
f(B_{\mathbb{R}^n}(x, \delta))\subset B_{\mathbb{R}^m}(f(x), \varepsilon)
$$
となる。この式は、
$$
B_{\mathbb{R}^n}(x, \delta)\subset f^{-1}(B_{\mathbb{R}^m}(f(x), \varepsilon))
$$
と言い換えられる(確かめよ)。ところが、$B_{\mathbb{R}^m}(f(x), \varepsilon)\subset V$ であったから、$f^{-1}(B_{\mathbb{R}^m}(f(x), \varepsilon))\subset f^{-1}(V)$ である。以上により、$B_{\mathbb{R}^n}(x, \delta)\subset f^{-1}(V)$ である。これで、$f^{-1}(V)$ が $\mathbb{R}^n$ の開集合であることが示された。
次に、(2) $\Rightarrow$ (1) を示す。写像 $f\colon\mathbb{R}^n\to\mathbb{R}^m$ に対して、(2) を仮定する。$f$ が連続であることを示すため、任意に $a\in\mathbb{R}^n$ を与える。$f$ が $a$ において連続と分かればよいが、それを示すために
命題4
を用いることにしよう。そこで、$\varepsilon>0$ を任意に与える。このときに、$\delta>0$ であって $f(B_{\mathbb{R}^n}(a,\delta))\subset B_{\mathbb{R}^m}(f(a),\varepsilon)$ であるようなものを見つければよい。いま、$V=B_{\mathbb{R}^m}(f(a), \varepsilon)$ とおけば、
命題5
により $V$ は $\mathbb{R}^m$ の開集合である。よって、いま仮定している (2) により、$f^{-1}(V)$ は $\mathbb{R}^n$ の開集合である。ところが、$f(a)\in V$ であるから、$a\in f^{-1}(V)$ である。よって、ある $\delta>0$ に対して、
$$
B_{\mathbb{R}^n}(a, \delta)\subset f^{-1}(V)
$$
である。これは、
$$
f(B_{\mathbb{R}^n}(a, \delta))\subset V
$$
と言い換えられる(さきほども同様の議論があったことに注意せよ)。これは、$V$ の定義に戻れば $f(B_{\mathbb{R}^n}(a, \delta))\subset B_{\mathbb{R}^m}(f(a), \varepsilon)$ である。これで、$f$ が $a$ において連続であることが示された。$a\in\mathbb{R}^n$ は任意であったから、$f$ は連続であることが示された。
定理7
は、(Euclid空間の間の)写像の連続性という性質が、距離を直接用いることなく、開集合の言葉だけで記述できることを示している。逆に言えば、どの集合が開集合であるかさえ知っていれば、距離も開球体も直接には使わずに、写像の連続性は定義できてしまう。
以下で定義される位相空間は、点の集合に対して、「どの部分集合が開集合であるか」というデータだけが与えられている。位相空間においては、距離や開球体という概念を定義することは一般にはできないが、それでも連続写像の概念が定義できる。つまり、
定理7
における性質 (2) が成り立つ写像を連続写像と定義するのである。