境界(boundary)とは、位相空間論において、ある集合の「内側」と「外側」の境目にある点全体の集まりを表す概念である。直感的には、その点自身のどんなに近くにも、その集合に含まれる点と含まれない点の両方が存在するような場所を指す。形式的には、閉包と内部の差、あるいは閉包と補集合の閉包の共通部分として定義される。
位相空間 $X$ の部分集合 $A$ の境界(boundary / frontier)とは、「$A$ の閉包」と「$A$ の補集合の閉包」の共通部分のことである。
記号では $\partial A$ や $\text{Bd}(A)$, $\text{Fr}(A)$ などと表される。
$$\partial A = \bar{A} \cap \overline{X \setminus A}$$
この定義は、以下の局所的な定義(近傍を用いた定義)と同値である。
点 $x \in X$ が $A$ の境界点であるとは、$x$ の任意の近傍 $U$ が、$A$ の点と $A$ の補集合の点の両方を含むことである。
$$\forall U \in \mathcal{V}(x), \quad U \cap A \neq \emptyset \land U \cap (X \setminus A) \neq \emptyset$$
すなわち、境界上の点からは、少し動くだけで「$A$ の中」にも「$A$ の外」にも行くことができる。
境界は、閉包および内部(開核)を用いて次のように簡潔に表せる。
ユークリッド空間:
実数直線 $\mathbb{R}$ 上の区間 $(0, 1)$, $[0, 1]$, $[0, 1)$ の境界は、いずれも $\{0, 1\}$ という2点からなる集合である。
有理数:
$\mathbb{R}$ における有理数集合 $\mathbb{Q}$ の境界は、$\mathbb{R}$ 全体である($\partial \mathbb{Q} = \mathbb{R}$)。
なぜなら、どのような実数の近傍をとっても、そこには必ず有理数と無理数の両方が含まれるからである。