Ratnerの定理(Ratner's theorems)とは、Lie 群 $G$ の格子 $\Gamma$ による等質空間 $G/\Gamma$ の上のユニポテントな 1 パラメータ部分群 $U$ の流れについて、$U$ で不変なエルゴード的確率測度は閉じた部分群の軌道の上の自然な測度に限ること、すべての点の軌道がそのような軌道の上に一様に分布すること、軌道の閉包が部分群の軌道であることを述べる 3 つの定理の総称である。$U$ が対角的な群なら、また $\Gamma$ が格子でなければ、結論は成り立たない。コンパクトな商の上のホロサイクル流では、すべての軌道が稠密である。Oppenheim 予想の力学系による見方とも結びつく。
Ratnerの定理(Ratner's theorems)とは、Lie 群 $G$ をその格子 $\Gamma$ で割った等質空間 $G/\Gamma$ の上で、ユニポテントな 1 パラメータ部分群 $U=\{u_t\}$ が作る流れの振る舞いが代数的に決まることを述べる 3 つの定理の総称である。測度の分類定理 は「$U$ で不変なエルゴード的確率測度は、閉じた部分群の軌道の上の自然な測度に限る」と述べ、一様分布定理 は「どの点の軌道も、そのような軌道の上に一様に分布する」と述べ、軌道閉包定理 は「どの軌道の閉包も部分群の軌道である」と述べる。M. Ratner が 1990〜91 年の一連の論文で一般の場合を証明した(EEK10 の序文、p. ix)。以下、定理の番号はその書の中の Esk10 による。
一般の力学系では、エルゴード定理 の結論は「ほとんどすべての点」についてしか言えず、個々の軌道の閉包はフラクタルのように複雑になることがある。ユニポテント流ではそれが起こらず、例外なしに すべての点 の軌道が記述できる。だから、整数点の上の 2 次形式の値のように「特定の 1 点の軌道」を調べる問題に使える。
Ratner の定理の一般の証明は長く、この記事では述べない。この記事では、定理を正確に述べたあと、次を証明する。トーラスの場合(prop-rat-torus)、$SL_2(\mathbb{R})/SL_2(\mathbb{Z})$ の周期軌道の判定(prop-rat-periodic)、そして主定理としてコンパクトな商の上のホロサイクル流の軌道がすべて稠密であること(thm-rat-hedlund)。主定理の証明には、ユニポテント流の剛性の源である「ずらし」の計算が現れる。最後に Oppenheim 予想との関係を述べる。
$G$ を Lie 群とする。離散部分群 $\Gamma\subset G$ が 格子 であるとは、$G$ の左からの作用で不変な有限の Borel 測度で $0$ でないものが $G/\Gamma$ の上にあることをいう(ベクトル空間の場合は 格子(群) の格子と一致する)。$G/\Gamma$ がコンパクトなとき、$\Gamma$ を 一様格子 という。$G$ は $G/\Gamma$ に $g\cdot h\Gamma:=gh\Gamma$ で作用する。
$g\in G$ は、随伴作用 $\mathrm{Ad}(g)$ が $G$ の Lie 環の上の冪単行列(固有値がすべて $1$)であるとき ユニポテント であるという。連続な準同型 $t\mapsto u_t$($\mathbb{R}\to G$)の像 $U=\{u_t\}$ で、すべての $u_t$ がユニポテントなものを ユニポテントな 1 パラメータ部分群 という。$U$ の $G/\Gamma$ への作用を ユニポテント流 という。
$SL_n(\mathbb{R})$ の中で、固有値がすべて $1$ の行列はユニポテントである($\mathrm{Ad}(g)$ は $g$ の左からの積と $g^{-1}$ の右からの積の合成で、この 2 つは可換で、どちらも冪単である)。$G=\mathbb{R}^n$ では $\mathrm{Ad}$ が自明なので、すべての 1 パラメータ部分群がユニポテントである。一方、$\mathrm{diag}(e^t,e^{-t})$($t\ne0$)はユニポテントでない。
$G/\Gamma$ の上の Borel 確率測度 $\mu$ が 代数的 であるとは、点 $x$ と閉部分群 $F\subset G$ で、$Fx$ が $G/\Gamma$ の閉集合であり、$\mu$ が $Fx$ の上に載った $F$ 不変な確率測度であるものがあることをいう。
$x=g\Gamma$ とすると、$F$ の中の $x$ の安定化群は $F\cap g\Gamma g^{-1}$ である。$Fx$ が閉なら $F/(F\cap g\Gamma g^{-1})\to Fx$ は同相写像で、$\mu$ はこの商の上の Haar 測度の像であり、$F\cap g\Gamma g^{-1}$ は $F$ の格子である(Esk10 §1.3, p. 75)。
以下の 3 つの定理はこの記事では証明しない。主張は Esk10 Theorem 1.11〜1.13(pp. 75–76)と §4.1(pp. 85–86)による。部分群 $F$ 自身がユニポテント元で生成されるとは限らない。一般に言えるのは、$F$ の中のユニポテントな 1 パラメータ部分群が生成する部分群が $Fx$ の上にエルゴード的に作用することである。たとえば $G=SL_2(\mathbb{R})\times SU(2)$ で、$\Gamma$ を $SU(2)$ への射影が稠密な格子(実 2 次体の上の 4 元数環から作れる)とすると、$G$ のユニポテント元は $SL_2(\mathbb{R})\times\{\pm e\}$ に入るが、この部分群の $e\Gamma$ の軌道は閉でない。
$G$ を Lie 群、$\Gamma$ を $G$ の格子、$U$ をユニポテントな 1 パラメータ部分群とする。$G/\Gamma$ の上の $U$ 不変なエルゴード的確率測度は代数的である。さらに、def-rat-algebraic の $F$ は $U$ を含むものにとれる(Esk10 Theorem 1.11、§4.1, pp. 85–86)。
$G,\Gamma,U$ を thm-rat-measure と同じとする。任意の $x\in G/\Gamma$ について、$U$ を含む閉部分群 $F$ で $Fx$ が閉であるものと、$Fx$ の上の $F$ 不変な確率測度 $\mu$ があって、すべての有界連続関数 $f$ について
$$
\lim_{T\to\infty}\frac1T\int_0^Tf(u_tx)\,dt=\int_{Fx}f\,d\mu
$$
が成り立つ(Esk10 Theorem 1.12)。
$G,\Gamma,U$ を thm-rat-measure と同じとする。任意の $x\in G/\Gamma$ について、$U$ を含む閉部分群 $F$ で $Fx$ が閉であるものがあって、$\overline{Ux}=Fx$ となる(Esk10 Theorem 1.13)。
thm-rat-closure は Raghunathan の予想と呼ばれていたもので、thm-rat-uniform からただちに出る($\mu$ の台は $Fx$ の全体なので、時間平均が $\mu$ に収束すれば軌道は $Fx$ で稠密である)。thm-rat-uniform は thm-rat-measure から導かれる。Esk10 の p. 76 によると、時間平均の測度の極限が不変測度になるという論法(一意エルゴード性 の特徴づけと同じ考え方)に、現れる部分群 $F$ が共役を除いて可算個であるという事実を合わせる。極限の測度の質量が無限遠に逃げないことも要り、そこに格子の仮定が効く(Esk10 p. 74 の注意)。
最も簡単な場合は $G=\mathbb{R}^n$、$\Gamma=\mathbb{Z}^n$ である。ここでは 3 つの定理のすべてを直接に確かめられる。$v\in\mathbb{R}^n$ について $u_t:=tv$ とし、$v$ を含む有理部分空間($\mathbb{Q}$ 係数の 1 次方程式で定まる部分空間)のうち最小のものを $W$ とする。$W\cap\mathbb{Z}^n$ は $W$ の格子なので、$\mathbb{T}^W:=W/(W\cap\mathbb{Z}^n)$ は $\mathbb{T}^n:=\mathbb{R}^n/\mathbb{Z}^n$ の閉部分トーラスである。その正規化された Haar 測度を $\lambda_W$ とする。
すべての $x\in\mathbb{T}^n$ と連続関数 $f\colon\mathbb{T}^n\to\mathbb{C}$ について
$$
\lim_{T\to\infty}\frac1T\int_0^Tf(x+tv)\,dt=\int_{\mathbb{T}^W}f(x+y)\,d\lambda_W(y)
$$
である。とくに $\overline{Ux}=x+\mathbb{T}^W$ であり、$U$ 不変なエルゴード的確率測度は平行移動した $\lambda_W$ に限る。
要点:指標 $e_k$ で確かめると、時間平均は $k\cdot v=0$ かどうかだけで決まり、それは $k\perp W$ と同値である。測度の主張は、不変性と優収束で時間平均の極限に移せば出る。
$k\in\mathbb{Z}^n$ について $e_k(y):=e^{2\pi ik\cdot y}$ とおく。Weylの一様分布定理 の命題「多変数の三角多項式による一様近似」により、$e_k$ の 1 次結合は連続関数の全体で一様に稠密である。両辺は $f$ について線形で、$f$ の一様ノルムで抑えられるので、$f=e_k$ で示せばよい。
$k\cdot v\ne0$ なら左辺は $e_k(x)\lim_T\frac1T\int_0^Te^{2\pi it\,k\cdot v}\,dt=0$ であり、$k\cdot v=0$ なら左辺は $e_k(x)$ である。右辺は $e_k(x)\int e_k\,d\lambda_W$ で、$e_k$ はトーラス $\mathbb{T}^W$ の指標だから、積分は $k$ が $W$ と直交するとき $1$、そうでないとき $0$ である。$k$ と直交する空間は $v$ を含むとき有理部分空間なので $W$ を含む。よって $k\cdot v=0$ と $k\perp W$ は同値で、両辺は一致する。
閉包については、右辺の測度の台が $x+\mathbb{T}^W$ であること、軌道がこの閉集合に含まれることから従う。測度については、$\nu$ を $U$ 不変なエルゴード的確率測度とし、右辺を $g_f(x)$ とおく。$g_f$ は連続で $U$ 不変なので、エルゴード性から $\nu$-ほとんどいたるところ定数である。不変性と Lebesgueの優収束定理 により $\int f\,d\nu=\int g_f\,d\nu$ なので、その定数は $\int f\,d\nu$ である。$f$ を $C(\mathbb{T}^n)$ の可算な稠密集合の上で動かすと、共通の $x$ で $g_f(x)=\int f\,d\nu$ がすべての $f$ について成り立ち、$\nu$ は $x+\mathbb{T}^W$ の上に平行移動した $\lambda_W$ である。$\square$
$F=W$ が thm-rat-uniform の部分群にあたる。$W=\mathbb{R}^n$ となるのは $v$ の成分が $\mathbb{Q}$ 上 1 次独立なときで、このときすべての軌道が $\mathbb{T}^n$ で稠密である。
以下 $G:=SL_2(\mathbb{R})$ とし、
$$
u_t:=\begin{pmatrix}1&t\\0&1\end{pmatrix},\quad a_r:=\begin{pmatrix}e^r&0\\0&e^{-r}\end{pmatrix},\quad v_s:=\begin{pmatrix}1&0\\s&1\end{pmatrix}
$$
とおき、$U,A,V$ をそれぞれの全体、$P$ を上三角行列の全体とする。$U$ の作用を ホロサイクル流、$A$ の作用を 測地流 という(Esk10 §2.1, p. 77。$g\mapsto g^{-1}$ で $G/\{\pm1\}$ を上半平面の単位接束とみると、$a_r$ の左からの作用は双曲計量の 測地流 の時刻 $-2r$ の写像、すなわち向きを逆にして速さを $2$ 倍にした測地流にあたる)。直接の計算で
$$
a_ru_ta_{-r}=u_{e^{2r}t},\qquad a_rv_sa_{-r}=v_{e^{-2r}s}
$$
である。$r>0$ の $a_r$ の共役は $U$ を伸ばし $V$ を縮める。
$\Gamma:=SL_2(\mathbb{Z})$ のとき、$g\Gamma\mapsto g\mathbb{Z}^2$ により、$G/\Gamma$ は面積 $1$ の基本領域をもつ $\mathbb{R}^2$ の格子の全体 $\mathcal{L}_2$ と同一視される。
$L\in\mathcal{L}_2$ について、$U$-軌道 $UL$ が周期的である(ある $T\ne0$ で $u_TL=L$)ことと、$L$ が $0$ でない水平なベクトル $(c,0)$ を含むことは同値である。このとき周期は $c^2$ の形にとれる。
要点:$(u_T-I)(x,y)=(Ty,0)$ で水平なベクトルが出る。逆は基底 $(c,0),(d,1/c)$ に $u_{c^2}$ を作用させる。
$u_TL=L$($T\ne0$)なら、$L$ の点 $(x,y)$ で $y\ne0$ のものをとると $(u_T-I)(x,y)=(Ty,0)$ は $L$ の $0$ でない水平なベクトルである。逆に、$c>0$ を最小にとった $(c,0)\in L$ は原始的なベクトルなので、$L=\mathbb{Z}(c,0)+\mathbb{Z}w$ となる $w$ があり、面積が $1$ であることから $w=(d,\pm1/c)$ である。$w$ を $-w$ に替えて第 2 成分を $1/c$ とすれば $u_{c^2}w=(d+c,1/c)=w+(c,0)\in L$ で、$u_{c^2}(c,0)=(c,0)$ なので、$u_{c^2}L\subset L$ である。同じ計算を $u_{-c^2}$ にも使えば $u_{c^2}L=L$ である。$\square$
たとえば $\mathbb{Z}^2$ は周期 $1$ の軌道にのる。その上の一様な測度は $U$ 不変なエルゴード的確率測度で、$G/\Gamma$ の Haar 測度とは異なる。Esk10 Theorem 2.4(p. 78)は、$\mathcal{L}_2$ の $U$ 不変なエルゴード的確率測度が周期軌道の上の測度か Haar 測度に限ることを、$U$ が縮む方向の群であること(horospherical)を使って証明している。
周期的でない軌道は稠密である。実際、thm-rat-uniform の $F$ を考える。閉部分群 $F\supset U$ の Lie 環は $U$ の Lie 環か上三角行列の Lie 環か全体である。全体でなければ $F$ はその Lie 環の正規化群 $P$ に含まれる。$F$ の中の $x$ の安定化群は $F$ の格子なので、$F$ はユニモジュラーである。対角成分が $\pm1$ でない $P$ の元は $F$ の Lie 環への随伴作用の行列式が $1$ でないので、$F$ に入らない。よって $F\subset\pm U$ で、安定化群は $\pm U$ の格子だから $U$ の単位元でない元を含み、軌道は周期的である。よって周期的でなければ $F=G$ である。
$\Gamma$ を $G=SL_2(\mathbb{R})$ の一様格子とする(たとえば Fuchs群 として現れるコンパクトな双曲曲面の基本群)。$X:=G/\Gamma$ とし、$\mu$ を $X$ の $G$ 不変な確率測度とする。
$\mu$ は $a_1$ についてエルゴード的である。したがって $\mu$-ほとんどすべての点 $x$ で、$\{a_nx:n\ge0\}$ は $X$ で稠密である。
要点:$a_1$ 不変な $L^2$ 関数は、共役で $u_t$、$v_s$ を単位元へ縮めることで $U,V$ でも不変になり、$U,V$ が $G$ を生成するので定数である。稠密性は Birkhoff の定理による。
$(\pi(g)f)(x):=f(g^{-1}x)$ は $L^2(X,\mu)$ のユニタリ表現で、$\pi(g)\pi(h)=\pi(gh)$ を満たす。$f\in C(X)$ は一様連続なので $g\mapsto\pi(g)f$ は連続で、$C(X)$ は $L^2$ で稠密なので、すべての $f\in L^2$ で連続である。
$f\in L^2$ が $\pi(a_1)f=f$ を満たすとする。$\pi(a_{\pm n})f=f$ なので、ユニタリ性から$$\|\pi(u_t)f-f\|=\|\pi(a_{-n})\pi(u_t)\pi(a_n)f-f\|=\|\pi(u_{e^{-2n}t})f-f\|\to0\qquad(n\to\infty)$$である。よって $\pi(u_t)f=f$ である。同様に $a_nv_sa_{-n}=v_{e^{-2n}s}$ から $\pi(v_s)f=f$ である。$c\ne0$ の行列は $\begin{pmatrix}a&b\\c&d\end{pmatrix}=u_{(a-1)/c}\,v_c\,u_{(d-1)/c}$ と書け、$c=0$ の行列 $g$ は $v_1g$ の左下の成分が $0$ でないので、$U$ と $V$ は $G$ を生成する。よって $f$ はすべての $\pi(g)$ で不変である。$f$ を $G$ の上の関数に持ち上げて Fubiniの定理 を使うと、ほとんどすべての $h$ について、ほとんどすべての $g$ で $f(g^{-1}h)=f(h)$ となるので、$f$ は定数である。不変集合の指示関数に使えばエルゴード性を得る。
$X$ の可算な開基の元 $O$ は、$G$ 不変性とコンパクト性($X$ は有限個の $gO$ で覆われる)から $\mu(O)>0$ を満たす。エルゴード定理 の定理「Birkhoff の個別エルゴード定理」を $\mathbf 1_O$ に使えば、ほとんどすべての点の前向きの軌道はどの $O$ にも入る。$\square$
$\Gamma$ が $SL_2(\mathbb{R})$ の一様格子なら、$X=G/\Gamma$ のすべての点の $U$-軌道は $X$ で稠密である。
段 0(小さい安定化群はない)。 $e$ の近傍 $W_0$ で、すべての $x\in X$ と $g\in W_0\setminus\{e\}$ について $gx\ne x$ となるものがある。そうでなければ $g_n\to e$、$g_n\ne e$、$g_nh_n\Gamma=h_n\Gamma$ となる列があり、コンパクト性から $h_n$ はコンパクト集合にとれる。部分列で $h_n\to h$ とすると $h_n^{-1}g_nh_n\in\Gamma\setminus\{e\}$ は $e$ に収束し、$\Gamma$ の離散性に反する。
段 1(極小集合)。 $x\in X$ を任意にとる。$\overline{Ux}$ に含まれる空でない閉な $U$ 不変集合の全体は、コンパクト性により逆向きの包含について帰納的順序集合である。Zornの補題 により極小元 $Y$ がある。$Y=X$ を示せば $\overline{Ux}=X$ である。$p\in P$ は $U$ を正規化するので $pY$ も $U$ 不変な極小集合であり、$pY\cap Y\ne\emptyset$ なら共通部分が閉な $U$ 不変集合になるので $pY=Y$ である。よって
$$
H:=\{p\in P:pY=Y\}=\{p\in P:pY\cap Y\ne\emptyset\}
$$
は $U$ を含む閉部分群である。
段 2($A\subset H$、ずらしの計算)。 次の 3 つの場合に分ける。
(a) ある $y\in Y$ と $g_n\to e$ が $g_n\notin P$、$g_ny\in Y$ を満たす場合。$g=g_n=\begin{pmatrix}\alpha&\beta\\\gamma&\delta\end{pmatrix}$($\gamma\ne0$)とする。$r\in\mathbb{R}$ を固定し、
$$
t:=\frac{\delta-e^{-r}}\gamma,\qquad t':=e^r(\alpha t-\beta)
$$
とおくと、直接の計算と行列式 $1$ から
$$
u_{t'}\,g\,u_{-t}=\begin{pmatrix}e^r&0\\\gamma&e^{-r}\end{pmatrix}
$$
である。$y_n:=u_{t}y\in Y$ とすると、この行列を $y_n$ に作用させた点は $u_{t'}g_ny\in Y$ である。$\gamma_n\to0$ なので行列は $a_r$ に収束し、部分列で $y_n\to z\in Y$ とすると $a_rz\in Y$ となる。よって $a_r\in H$ である。$r$ は任意なので $A\subset H$ である。
(b) (a) でなく、ある $y\in Y$ と $p_n\to e$ が $p_n\in P\setminus U$、$p_ny\in Y$ を満たす場合。$p_n\in H$ で、$p_n=a_{r_n}u_{t_n}$($r_n\ne0$、$r_n\to0$)と書ける。$U\subset H$ なので $a_{r_n}\in H$ であり、閉部分群 $H\cap A$ は $A\cong\mathbb{R}$ の中で $0$ に集積するので $A$ の全体である。
(c) (a) でも (b) でもない場合。各 $z\in Y$ について $e$ の近傍 $W_z$ があり、$g\in W_z$、$gz\in Y$ なら $g\in U$ である。$y\in Y$ を 1 つとり、部分列 $k_j\to\infty$ で $u_{k_j}y\to z\in Y$ とする。$u_{k_j}y=g_jz$、$g_j\to e$ と書けるので、$j$ が大きければ $g_j=u_{\tau_j}$、$\tau_j\to0$ である。$j< l$ を大きくとると $u_cy=y$($c:=k_l-k_j-\tau_l+\tau_j\ne0$)を得る。すると $u_{e^{2r}c}(a_ry)=a_ru_cy=a_ry$ であり、$r\to-\infty$ で $u_{e^{2r}c}\to e$ だから、段 0 に反する。よって (c) は起こらない。
段 3($Y=X$)。 段 2 により $Y$ は $AU$ で不変である。lem-rat-mautner の $x_0$ で $\{a_nx_0:n\ge0\}$ が稠密なものをとる。$V\times AU\to G$、$(v,p)\mapsto vp$ は $(e,e)$ の近くで局所微分同相なので、$y\in Y$ を 1 つとり、$a_{n_0}x_0$ が $y$ に十分近い $n_0$ をとれば、$x:=a_{n_0}x_0=v_sp\,y$($p\in AU$)と書ける。$y':=py\in Y$ である。$X$ に孤立点はないので、任意の $w\in X$ について $n_j\to\infty$、$a_{n_j}x\to w$ となる列がある。
$$
a_{n_j}x=a_{n_j}v_sy'=v_{e^{-2n_j}s}\,(a_{n_j}y')
$$
で $v_{e^{-2n_j}s}\to e$ なので $a_{n_j}y'\to w$ である。$a_{n_j}y'\in Y$ で $Y$ は閉なので $w\in Y$ である。$\square$
段 2 の (a) が剛性の核心である。近くの 2 点 $y$、$gy$ の $U$-軌道は、$\gamma$ が小さくても長い時間 $t\sim1/\gamma$ のあとには離れていくが、その離れ方は $t$ の多項式であり、まず $U$ を正規化する $A$ の方向に離れる。軌道の閉包に $U$ より大きな群の不変性が現れるのはこの現象による。一般の Ratner の定理の証明もこの「ずらし」(shearing)を出発点にする(Esk10 p. 82 の「Shearing」の段落と §5.1, p. 92)。
一様格子の場合、thm-rat-hedlund より強く、$U$ の作用は一意エルゴード的である(Furstenberg の定理。Esk10 p. 79、EL10 §2.9, p. 159。この記事では証明しない)。つまり不変な確率測度は $\mu$ だけで、すべての点の軌道が $\mu$ に関して一様に分布する。一意エルゴード性 の記事にこの性質の一般論がある。
実係数の非退化な不定値 2 次形式 $Q$ が $n$ 変数のとき、値の集合 $Q(\mathbb{Z}^n)$ を考える。Margulis は 1986 年に次を示した(Esk10 Theorem 1.2, p. 71。この記事では証明しない):$n\ge3$ で $Q$ が有理係数の形式の定数倍でなければ、$Q(\mathbb{Z}^n)$ は $\mathbb{R}$ で稠密である。これが Oppenheim予想 である。
$H:=SO(Q)$ とし、$\mathcal{L}_n:=SL_n(\mathbb{R})/SL_n(\mathbb{Z})$ を基本領域の体積が $1$ の格子の全体とする。Mahlerのコンパクト性定理(Esk10 Theorem 2.1, p. 77)により、$\varepsilon>0$ について、長さが $\varepsilon$ 未満の $0$ でないベクトルをもたない格子の全体はコンパクトである。
$n\ge3$ とする。次は同値である。
要点:1 ⇒ 2 は $Q$ の $H$ 不変性による。2 ⇒ 1 は Witt の定理で $u$ を $Q$ の値が同じ短いベクトルに $H$ で写す。
1 ⇒ 2:Mahler の定理により $h_k\in H$ と $0\ne v_k\in h_k\mathbb{Z}^n$ で $v_k\to0$ となるものがある。$u_k:=h_k^{-1}v_k\in\mathbb{Z}^n\setminus\{0\}$ について $Q(u_k)=Q(v_k)\to0$ である。
2 ⇒ 1:$Q(w_+)=1$、$Q(w_-)=-1$ となる $w_\pm$ と、$0$ でない $w_0$ で $Q(w_0)=0$ となるものをとる。$u$ を 2 のものとし、$c:=Q(u)$ とする。$c\ne0$ なら $w:=\sqrt{|c|}\,w_\pm$(符号は $c$ に合わせる)、$c=0$ なら $w:=\delta w_0$($\delta>0$ は小さく)とおくと $Q(w)=c$ で、$\varepsilon,\delta\to0$ で $\|w\|\to0$ である。Witt の定理により $O(Q)$ の元 $h$ で $hu=w$ となるものがある。$n\ge3$ なので $w$ の直交補空間は全等方的でなく、そこの非等方ベクトルについての鏡映は $w$ を固定し行列式が $-1$ である。よって $h\in H$ にとれる。$h\mathbb{Z}^n$ は短いベクトル $w$ を含む。最短ベクトルの長さは $\mathcal{L}_n$ の上の正の連続関数でコンパクト集合の上で下に有界なので、$H\mathbb{Z}^n$ は相対コンパクトでない。$\square$
この対応は Raghunathan の観察による(Esk10 §5.1, p. 91)。条件 2 で $Q(u)=0$ を許すことは必要で、$0<|Q(u)|<\varepsilon$ に強めると同値は成り立たない。$Q=x^2+y^2-z^2$ では $(3,4,5)$ により 1 が成り立つのに、$Q$ は整数値なので $0<|Q(u)|<1$ となる整数点はない。Oppenheim 予想の仮定「有理形式の定数倍でない」はこの種の形式を除くためのものである。
この対応のもとで、Margulis の定理の核心は「$SO(2,1)$ の $\mathcal{L}_3$ の中の相対コンパクトな軌道はコンパクトである」という力学系の主張である(Esk10 p. 92)。$n\ge3$ のとき $H$ の単位元成分はユニポテント元で生成されるが、$n=2$ の $H$ はそうではない(同頁)。この違いが次の命題に現れる。
$\lambda$ を 2 次の無理数で $\lambda^2\notin\mathbb{Q}$ であるもの(たとえば $\lambda=(1+\sqrt5)/2$)とする。$Q(x,y):=x^2-\lambda^2y^2$ は有理形式の定数倍でないが、ある $\varepsilon>0$ について、$(x,y)\in\mathbb{Z}^2\setminus\{0\}$ で $|Q(x,y)|>\varepsilon$ である。
要点:$|Q(x,y)|=|x-\lambda y|(x+\lambda y)$ と、2 次の無理数が悪く近似されることから出る。
2 次の無理数は部分商が有界なので(連分数 の定理「循環連分数と2次無理数」、Diophantus近似 の命題「悪く近似される数と部分商」)、$c_0\in(0,1)$ があってすべての整数 $p$ と $q\ge1$ で $|\lambda-p/q|\ge c_0/q^2$ である。$\lambda>0$ としてよい。$y=0$ なら $|Q|=x^2\ge1$ である。$x=0$ なら $|Q|\ge\lambda^2$ である。$xy\ne0$ のとき、符号を替えて $x,y>0$ とする。$\varepsilon:=\frac12\min\{1,\lambda^2,c_0\lambda\}$ とし、$|Q(x,y)|\le\varepsilon$ とすると $|x-\lambda y|\,(x+\lambda y)\le\varepsilon$ で $x+\lambda y>\lambda y$ だから $|x/y-\lambda|<\varepsilon/(\lambda y^2)\le c_0/y^2$ となり矛盾する。$\square$
| 外す仮定 | 例 | 起こること |
|---|---|---|
| thm-rat-uniform の $U$ がユニポテント | $SL_2(\mathbb{R})/SL_2(\mathbb{Z})$ の $\{a_r\}$、点 $\mathbb{Z}^2$ | 軌道は無限遠へ去り、極限の確率測度がない |
| thm-rat-uniform の $\Gamma$ が格子 | $\Gamma=\{e\}$、$G=SL_2(\mathbb{R})$、$U$ | 軌道は閉で非コンパクトで、不変な確率測度がない |
| thm-rat-hedlund の一様性 | $\Gamma=SL_2(\mathbb{Z})$ の点 $\mathbb{Z}^2$ | 周期軌道なので稠密でない |
| Oppenheim の $n\ge3$ | prop-rat-two-variables | $Q(\mathbb{Z}^2)$ は $0$ の近くの区間で $0$ しかとらない |
| Oppenheim の無理性 | $x^2+y^2-z^2$ | 値は整数で稠密でない |
要点:表の 5 行を順に確かめる。
1 行目:$a_r\mathbb{Z}^2$ は $(0,e^{-r})$ を含むので、$r\to\infty$ で最短ベクトルの長さは $0$ に近づき、軌道はどのコンパクト集合からも出ていく。コンパクトな台の $f$ について時間平均は $0$ に収束するが、どの確率測度 $\mu$ にも $\int f\,d\mu\ne0$ となるそのような $f$ がある。2 行目:$G/\Gamma=G$ で $\|u_t\|\to\infty$ なので 1 行目と同じ議論が使える。3 行目:prop-rat-periodic。軌道は周期的でコンパクトな円周で、$G/\Gamma$ の次元は $3$ である。4 行目:$(x,y)\ne0$ で $|Q|>\varepsilon$、$(0,0)$ で $Q=0$ である。5 行目:係数が整数である。
定理の主張、定義、Theorem 2.4 までの枠組みは Esk10 による。thm-rat-measure の別の短い証明は Margulis–Tomanov によるものが知られている(EL10 p. 160 の脚注)。prop-rat-torus、prop-rat-periodic、lem-rat-mautner、thm-rat-hedlund(独自に整理した証明)、prop-rat-raghunathan、prop-rat-two-variables の証明は、この記事で書き下ろしたものである。thm-rat-hedlund の名は Hed36 にちなむ。
Mathpediaは寄付と、参考文献の書籍リンク(Amazonアソシエイト)の紹介料で運営されています。 支援について / 寄付する