$T$ をHilbert空間 $\mathcal{H}$ 上の閉線形作用素とする。このとき、
$$
\rho(T)\colon=\{\lambda\in \mathbb{C}: \lambda-T:D(T)\rightarrow\mathcal{H}\text{ は全単射}\}
$$
を $T$ のレゾルベント集合と言い、
$$
\sigma(T)\colon=\mathbb{C}\backslash\rho(T)
$$
を $T$ のスペクトルと言う。そして $T$ のスペクトルの部分集合
$$
\sigma_{\rm p}(T)\colon=\{\lambda\in \mathbb{C}:{\rm Ker}(\lambda-T)\neq\{0\}\}
$$
を $T$ の点スペクトルと言い、$\sigma_{\rm p}(T)$ の元を $T$ の固有値と言う。$T$ の固有値 $\lambda\in \sigma_{\rm p}(T)$ に対し、${\rm Ker}(\lambda-T)$ を $T$ の固有値 $\lambda$ に対する固有空間と言い、${\rm Ker}(\lambda-T)$ の $0$ ではない元を $T$ の固有値 $\lambda$ に対する固有ベクトルと言う。
$T$ をHilbert空間 $\mathcal{H}$ 上の閉線形作用素、$\rho(T)$ を $T$ のレゾルベント集合とする。任意の $\lambda\in \rho(T)$ に対し閉線形作用素 $\lambda-T$ のグラフ $G(\lambda-T)$ は $(\lambda-T)^{-1}$ のグラフ $G( (\lambda-T)^{-1})$ と等長線形同型であるから $G( (\lambda-T)^{-1})$ は閉である。よって $(\lambda-T)^{-1}\colon\mathcal{H}\rightarrow\mathcal{H}$ は閉線形作用素であるので、閉グラフ定理(
定理1
)より $(\lambda-T)^{-1}\in \mathbb{B}(\mathcal{H})$ である。
$$
\rho(T)\ni \lambda-\mapsto (\lambda-T)^{-1}\in \mathbb{B}(\mathcal{H})
$$
を $T$ のレゾルベントと言う。
Hilbert空間 $\mathcal{H}$ 上の閉線形作用素のスペクトルとレゾルベント集合の定義は $C^*$-環 $\mathbb{B}(\mathcal{H})$ の元のスペクトルとレゾルベント集合の定義( Banach環とC*-環のスペクトル理論の定義1.5 )と矛盾しない。
$T$ をHilbert空間 $\mathcal{H}$ 上の閉線形作用素、$\rho(T)$ を $T$ のレゾルベント集合とする。このとき、
Hilbert空間上の閉線形作用素のスペクトルは $\mathbb{C}$ の閉集合である。
Hilbert空間上の閉線形作用素のレゾルベント集合は、 命題1 より $\mathbb{C}$ の開集合であるから、レゾルベント集合の $\mathbb{C}$ における補集合であるスペクトルは $\mathbb{C}$ の閉集合である。
$T$ をHilbert空間 $\mathcal{H}$ 上の自己共役作用素とする。このとき $T$ のスペクトル $\sigma(T)$ は $\mathbb{R}$ の部分集合である。
$T$ のレゾルベント集合 $\rho(T)=\mathbb{C}\backslash \sigma(T)$ に対し $\mathbb{C}\backslash \mathbb{R}\subset \rho(T)$ であることを示せばよい。そこで $\alpha,\beta\in \mathbb{R}$、$\beta\neq0$ とし、$\lambda\colon=\alpha+i\beta\in \mathbb{C}\backslash \mathbb{R}$ とおく。このとき $(v\mid (\alpha-T)v)\in \mathbb{R}$ $(\forall v\in D(T))$ であることから、
$$
\begin{aligned}
&\|(\lambda-T)v\|^2=\| (\alpha-T)v+i\beta v\|^2=\| (\alpha-T)v\|^2+\beta^2\| v\|^2\geq \beta^2\| v\|^2\quad(\forall v\in D(T)),\quad\quad(*)\\
&\| (\overline{\lambda}-T)v\|^2=\|(\alpha-T)v-i\beta v\|^2
=\| (\alpha-T)v\|^2+\beta^2\| v\|^2\geq \beta^2\| v\|^2\quad(\forall v\in D(T))\quad\quad(**)
\end{aligned}
$$
である。よって $(*)$ と $\beta\neq0$ より ${\rm Ker}(\lambda-T)=\{0\}$、$\overline{{\rm Ran}(\lambda-T)}={\rm Ran}(\lambda-T)$($\lambda-T$ が閉線形作用素であることに注意)である。そして $(**)$ より ${\rm Ker}(\overline{\lambda}-T)=\{0\}$ であるから、
命題1
の $(5)$ より、
$$
{\rm Ran}(\lambda-T)=\overline{{\rm Ran}(\lambda-T)}=( ({\rm Ran}(\lambda-T))^{\perp})^{\perp}=({\rm Ker}(\overline{\lambda}-T))^{\perp}=\{0\}^{\perp}=\mathcal{H}
$$
である。よって $\lambda-T\colon D(T)\rightarrow \mathcal{H}$ は全単射であるから $\lambda\in \rho(T)$ である。ゆえに $\mathbb{C}\backslash \mathbb{R}\subset \rho(T)$ であるから、$\sigma(T)\subset \mathbb{R}$ が成り立つ。
$T$ をHilbert空間 $\mathcal{H}$ 上の自己共役作用素とする。このとき $T$ のスペクトル $\sigma(T)$ は $\mathbb{R}$ の空でない閉集合であり、同相写像
$$
C\colon\mathbb{R}\ni t\mapsto (t-i)(t+i)^{-1}\in \mathbb{T}\backslash \{1\}
$$
(逆写像は $\mathbb{T}\backslash \{1\}\ni \lambda\mapsto i(1+\lambda)(1-\lambda)^{-1}\in \mathbb{R}$ である。)に対し、
$$
C(\sigma(T))=\sigma(C(T))\backslash \{1\}
$$
が成り立つ。ただし $C(T)$ は $T$ のCayley変換である。
系
と
命題2
より $\sigma(T)$ は $\mathbb{R}$ の閉集合である。また
定理4
より $C(T)$ は $\mathcal{H}$ 上のユニタリ作用素である。任意の $t\in \mathbb{R}$ に対し、
$$
\begin{aligned}
C(t)-C(T)&=(t-i)(t+i)^{-1}-(T-i)(T+i)^{-1}\\
&=(t+i)^{-1}\{(t-i)(T+i)-(t+i)(T-i)\}(T+i)^{-1}\\
&=2i(t+i)^{-1}(t-T)(T+i)^{-1}
\end{aligned}
$$
であるから、$C(t)-C(T)\colon \mathcal{H}\rightarrow\mathcal{H}$ が全単射であることと、$t-T\colon D(T)\rightarrow\mathcal{H}$ が全単射であることは同値である。よって $t\in \mathbb{R}$ に対し、
$$
C(t)\in \sigma(C(T))\backslash \{1\}\quad\Leftrightarrow\quad t\in\sigma(T)\quad\quad(*)
$$
が成り立つ。$C(T)$ は $\mathcal{H}$ 上のユニタリ作用素であるから、
Banach環とC*-環のスペクトル理論の命題3.5
より、$\sigma(C(T))\backslash\{1\}\subset \mathbb{T}\backslash \{1\}=C(\mathbb{R})$ である。よって $(*)$ より、
$$
C(\sigma(T))=\sigma(C(T))\backslash \{1\}\quad\quad(**)
$$
が成り立つ。また $\sigma(C(T))\neq\emptyset$(
Banach環とC*-環のスペクトル理論の命題1.8
)であるから、もし $\sigma(C(T))\backslash \{1\}=\emptyset$ ならば $\sigma(C(T))=\{1\}$ となり、連続汎関数計算(
Banach環とC*-環のスペクトル理論の定義6.6
)より $C(T)=1$ となる。よって $1-C(T)$ が単射であること(
命題3
)に矛盾する。ゆえに $\sigma(C(T))\backslash \{1\}\neq\emptyset$ であるので、$(**)$ より $\sigma(T)\neq\emptyset$ である。