エンド(end)とは、混合分散の関手 $H\colon\mathcal{C}^{\mathrm{op}}\times\mathcal{C}\to\mathcal{D}$ の対角上の値 $H(c,c)$ から、射に関して整合する族を普遍的に取り出す構成であり、$\int_{c}H(c,c)$ と書く。関手 $F,G$ の間の自然変換の集合は $\int_c\mathcal{D}(Fc,Gc)$ と表され、二重のエンドは Fubini 型の交換則を満たす。積分記号は変数の束縛と交換則の類似による記法である。
$\mathcal C$ を小さい圏、$\mathcal D$ を局所小な圏、$H:\mathcal C^{\mathrm{op}}\times\mathcal C\to\mathcal D$ を関手とする。第1変数は反変、第2変数は共変である。以下の積(圏論)・等化子が存在すればエンドは存在する。特に $\mathcal D$ が小さい極限(圏論)を持てば十分である。
対象 $T$ から $H$ への楔(wedge)とは、射 $\alpha_c:T\to H(c,c)$ の族であって、すべての $u:c\to d$ について
$$
H(1_c,u)\alpha_c=H(u,1_d)\alpha_d:T\longrightarrow H(c,d)
$$
を満たすものである。エンド(end)は、普遍的な楔 $\pi_c:E\to H(c,c)$ を持つ対象 $E$ である。すなわち、任意の楔 $\alpha$ に対し $\pi_cf=\alpha_c$ をすべての $c$ で満たす射 $f:T\to E$ がただ一つ存在する。
$$E=\int_{c\in\mathcal C}H(c,c)$$
と書く。存在すれば普遍的な楔を保つ同型を除いて一意である。
楔の条件は、各射 $u\colon c\to d$ ごとに次の四角形が可換になることである。
$$
\begin{CD}
T @>{\alpha_c}>> H(c,c)\\
@V{\alpha_d}VV @VV{H(1_c,u)}V\\
H(d,d) @>{H(u,1_d)}>> H(c,d)
\end{CD}
$$
つまり $H(c,c)$ と $H(d,d)$ の成分を、$u$ を二通りに作用させて共通の $H(c,d)$ で比べる。
これは通常の極限に似ているが、一般に $c\mapsto H(c,c)$ は $\mathcal C\to\mathcal D$ という関手ではない。射 $u:c\to d$ は第1変数と第2変数で逆向きに作用するためである。従って「対角上の値の極限」とだけ述べるのでは定義にならない。定義は Mac98 Chapter IX §5(p. 222)により、Kel82 §2.1 の豊穣圏での定義を集合による豊穣化に特殊化したものに対応する。
エンドは、すべての $c$ にわたる値を整合する一つの族としてまとめる。$\mathcal D=\mathbf{Set}$ なら
$$
\int_cH(c,c)=
\left\{(x_c)\in\prod_cH(c,c)\ \middle|\
H(1_c,u)x_c=H(u,1_d)x_d\text{ for all }u:c\to d\right\}.
$$
積分記号は変数 $c$ を束縛して消去する記号として働く。しかし、数を加算したり面積を測ったりしているわけではない。離散的な添字ではエンドは積になり、和ではない。和に近い役割を担うのは、上付き添字で書くコエンド $\int^c$ の方である。
「積分らしさ」の実質は、反変・共変の変数を組にして消去すること、二重エンドを交換できること、Hom関手を使う計算が評価に簡約されることにある。測度、微小量 $dc$、数値的な積分の収束はこの定義には含まれない。
$\mathcal C$ が集合 $I$ を対象とし恒等射しか持たないなら、条件は自動的で、$\int_cH(c,c)=\prod_{i\in I}H(i,i)$ である。$I=\emptyset$ なら、これは $\mathcal D$ の終対象である。
$\mathcal C=(0\to1)$ では、非自明な条件は $H(0,0)$ と $H(1,1)$ から $H(0,1)$ への像が一致することである。従って
$$\int_cH(c,c)\cong H(0,0)\times_{H(0,1)}H(1,1).$$
ここで右辺は引き戻しであり、「二つの値を両立させる」ことを表す。
群 $G$ を一対象 $*$ の圏とみなし、$G$-集合 $X$(作用を $g\cdot x$ と書く)について $H(*,*)=X$、第1変数の射はすべて恒等写像に、第2変数の射 $g$ は $x\mapsto g\cdot x$ に送る関手 $H\colon G^{\mathrm{op}}\times G\to\mathbf{Set}$ を考える(二つの変数の作用は可換なので $H$ は関手になる)。楔の条件は、すべての $g$ について $g\cdot x=x$ となることである。したがって
$$
\int_{*}H(*,*)=X^G=\{x\in X\mid g\cdot x=x\ (g\in G)\}
$$
は固定点の集合である。これはコエンドの例「群の軌道集合」と対になる。
関手 $F,G:\mathcal C\to\mathcal D$ に対して
$$
\operatorname{Nat}(F,G)\cong
\int_c\operatorname{Hom}_{\mathcal D}(F(c),G(c)).
$$
右辺の混合分散の関手は $H(c,d)=\operatorname{Hom}_{\mathcal D}(F(c),G(d))$ である。このエンドは $\mathbf{Set}$ で取る(Mac98 Chapter IX §5, (2)、p. 223)。
$\mathbf{Set}$ でのエンドの元は、各 $c$ の射 $\alpha_c:F(c)\to G(c)$ の族で楔の条件を満たすものである。$H(1_c,u)\alpha_c=G(u)\alpha_c$、$H(u,1_d)\alpha_d=\alpha_dF(u)$ なので、楔の条件は
$$G(u)\alpha_c=\alpha_dF(u)$$
となり、これは自然変換の定義にほかならない。従って元と自然変換が一対一に対応する。$\blacksquare$
小さい圏 $\mathcal C$、関手 $F\colon\mathcal C\to\mathbf{Set}$、対象 $x$ に対して
$$
\int_{c}\operatorname{Hom}_{\mathbf{Set}}\bigl(\operatorname{Hom}_{\mathcal C}(x,c),F(c)\bigr)\cong F(x)
$$
であり、この同型は元 $(\alpha_c)_c$ を $\alpha_x(1_x)$ に送る。
prop-end-natural-transformations を二つの関手 $\operatorname{Hom}_{\mathcal C}(x,-)$ と $F$ に当てはめると、左辺は自然変換の集合 $\operatorname{Nat}(\operatorname{Hom}_{\mathcal C}(x,-),F)$ と一致し、元 $(\alpha_c)_c$ は成分 $\alpha_c$ をもつ自然変換に対応する。米田の補題 の定理「米田の補題」により、自然変換 $\alpha$ を $\alpha_x(1_x)$ に送る写像はこの集合から $F(x)$ への全単射である。$\blacksquare$
位数2の群 $G$ を一対象の圏とみなし、$H(*,*)=\{0,1\}$、第1変数の作用を恒等、第2変数の非自明な群元の作用を $0$ と $1$ の交換とする。二つの作用は可換なので $H$ は関手になる。対象ごとの積は二元集合だが、エンドの元には $x=1-x$ が必要であり、エンドは空集合である。これは上の固定点の例で、固定点のない作用を選んだ場合にあたる。
必要な積と等化子が存在するとき、
$$
\int_cH(c,c)\cong
\operatorname{Eq}\left(
\prod_cH(c,c)\rightrightarrows
\prod_{u:c\to d}H(c,d)
\right).
$$
二本の射の $u$ 成分は、$c$ 成分に $H(1_c,u)$ を作用させたものと、$d$ 成分に $H(u,1_d)$ を作用させたものである(Mac98 Chapter IX §6, Exercise 2、p. 227 はこの構成を演習としている)。
$T$ から左側の積への射は、射の族 $\alpha_c:T\to H(c,c)$ と同じである。二本の射との合成が一致する条件は、$u$ 成分ごとに見ると $H(1_c,u)\alpha_c=H(u,1_d)\alpha_d$、すなわち各 $u$ について楔の等式が成り立つことと同じである。したがって $T$ から等化子への射は $T$ からの楔と一対一に対応し、この対応は $T$ の前合成と両立する。等化子の普遍性が、楔の一意な因子分解をそのまま与える。$\blacksquare$
エンドは、一つの図式の極限としても書ける。$\mathcal C$ の分割圏(subdivision category)$\mathcal C^{\S}$ を次で定める。対象は、$\mathcal C$ の対象 $c$ ごとの記号 $c^{\S}$ と、$\mathcal C$ の射 $f$ ごとの記号 $f^{\S}$ である($c^{\S}$ と $(1_c)^{\S}$ は別の対象とする)。射は恒等射のほかに、各 $f\colon b\to c$ について二本の射 $b^{\S}\to f^{\S}\leftarrow c^{\S}$ だけを置く。恒等射でない射どうしは合成できないので、合成は恒等射との合成だけであり、圏の公理は自明に成り立つ。関手 $H$ から関手 $H^{\S}\colon\mathcal C^{\S}\to\mathcal D$ を
$$
H^{\S}(b^{\S})=H(b,b),\quad H^{\S}(f^{\S})=H(b,c),\quad
H^{\S}(b^{\S}\to f^{\S})=H(1_b,f),\quad H^{\S}(c^{\S}\to f^{\S})=H(f,1_c)
$$
で定める。
$H\colon\mathcal C^{\mathrm{op}}\times\mathcal C\to\mathcal D$ のエンドが存在することと、$H^{\S}$ の極限(極限(圏論))が存在することは同値であり、そのとき
$$
\int_cH(c,c)\cong\lim\bigl(H^{\S}\colon\mathcal C^{\S}\to\mathcal D\bigr)
$$
が、各 $c$ で普遍的な楔の成分と極限の脚 $\lim H^{\S}\to H^{\S}(c^{\S})$ を対応させる形で成り立つ(Mac98 Chapter IX §5, Proposition 1、p. 224)。
対象 $T$ から $H^{\S}$ への錐(圏論) $\lambda$ を考える。$\mathcal C^{\S}$ の恒等射でない射は $b^{\S}\to f^{\S}\leftarrow c^{\S}$ の形のものだけなので、錐の条件は各 $f\colon b\to c$ について
$$
H(1_b,f)\lambda_{b^{\S}}=\lambda_{f^{\S}}=H(f,1_c)\lambda_{c^{\S}}
$$
が成り立つことである。したがって $\lambda_{f^{\S}}$ は $\lambda_{b^{\S}}$ から決まり、残りの成分の族 $(\lambda_{c^{\S}})_c$ は楔の条件 $H(1_b,f)\lambda_{b^{\S}}=H(f,1_c)\lambda_{c^{\S}}$ を満たす。逆に楔 $(\alpha_c)_c$ があれば、$\lambda_{c^{\S}}=\alpha_c$、$\lambda_{f^{\S}}=H(1_b,f)\alpha_b$ と置くと錐になる。この対応は互いに逆であり、射 $t\colon T'\to T$ との前合成と両立する。
よって、錐と楔は同じものであり、錐の射の一意な因子分解(極限の普遍性)と楔の一意な因子分解(エンドの普遍性)は同じ条件である。極限の錐が普遍的であることと、対応する楔が普遍的であることは同値であり、主張が従う。$\blacksquare$
分割圏の代わりに、射 $f\colon a\to b$ を対象とし、射 $f\to f'$ を $f'=k\circ f\circ h$ を満たす組 $(h\colon a'\to a,\ k\colon b\to b')$ とするねじれ矢印圏を使っても、同じようにエンドを極限として書ける(Mac98 Chapter IX §6, Exercise 3、p. 227)。対象 $f\colon a\to b$ を $H(a,b)$ へ送る図式への錐 $\lambda$ に対し $\alpha_a=\lambda_{1_a}$ と置くと、射 $(1_a,f)\colon 1_a\to f$ と $(f,1_b)\colon 1_b\to f$ についての錐の条件が $H(1_a,f)\alpha_a=\lambda_f=H(f,1_b)\alpha_b$ を与えるので $\alpha$ は楔になる。逆に楔 $\alpha$ から $\lambda_f=H(1_a,f)\alpha_a$ と置くと、射 $(h,k)\colon f\to f'$($f'=k\circ f\circ h$、$h\colon a'\to a$)について、楔の条件 $H(h,1_a)\alpha_a=H(1_{a'},h)\alpha_{a'}$ を使って $H(h,k)\lambda_f=H(1_{a'},kf)H(h,1_a)\alpha_a=H(1_{a'},kfh)\alpha_{a'}=\lambda_{f'}$ となり、錐になる。この形は ∞圏版のエンドの定義に使われる。
逆に、すべての極限はエンドとして書ける。
関手 $T\colon\mathcal C\to\mathcal D$ に対し、第1変数を無視する関手 $S\colon\mathcal C^{\mathrm{op}}\times\mathcal C\to\mathcal D$、$S(c',c)=T(c)$、$S(u,v)=T(v)$ を考える。このとき、射の族 $(\varepsilon_c\colon e\to T(c))_c$ が $T$ の極限の錐であることと、$S$ のエンドの楔であることは同値である。特に $\int_cS(c,c)\cong\lim T$ であり、一方が存在すれば他方も存在する(Mac98 Chapter IX §5, Proposition 3、p. 225)。
$f\colon b\to c$ について、$S(1_b,f)=T(f)$、$S(f,1_c)=T(1_c)=1_{T(c)}$ である。したがって族 $(\varepsilon_c)$ についての楔の条件 $S(1_b,f)\varepsilon_b=S(f,1_c)\varepsilon_c$ は $T(f)\varepsilon_b=\varepsilon_c$ となり、これは錐の条件そのものである。楔と錐が同じ族であり、因子分解の条件も同じ(成分ごとに $\varepsilon_c\circ h=\alpha_c$)なので、普遍的な楔と普遍的な錐も一致する。$\blacksquare$
この命題と prop-end-subdivision によって、エンドと極限は互いに書き直せる。エンドは極限の特別な場合でありながら、極限をすべて含む。
$H$ のエンド $E=\int_cH(c,c)$ と普遍的な楔 $\pi$ が存在するとき、各対象 $x\in\mathcal D$ について、写像
$$
\operatorname{Hom}_{\mathcal D}\Bigl(x,\int_cH(c,c)\Bigr)\longrightarrow\int_c\operatorname{Hom}_{\mathcal D}\bigl(x,H(c,c)\bigr),\qquad f\longmapsto(\pi_c\circ f)_c
$$
は全単射であり、$x$ について自然である。右辺は $\mathbf{Set}$ でのエンドである(Mac98 Chapter IX §5, (4)、p. 225)。
右辺の混合分散の関手は $(c,d)\mapsto\operatorname{Hom}_{\mathcal D}(x,H(c,d))$ であり、その $\mathbf{Set}$ でのエンドの元は、族 $(\alpha_c\colon x\to H(c,c))_c$ で $H(1_c,u)\circ\alpha_c=H(u,1_d)\circ\alpha_d$ を満たすもの、すなわち $x$ から $H$ への楔である。$\pi$ は楔なので $(\pi_c\circ f)_c$ も楔であり、写像は定義できる。エンドの普遍性は、任意の楔 $\alpha$ に対して $\pi_c\circ f=\alpha_c$ となる $f$ がただ一つあることであり、これはこの写像が全単射であることの言い換えである。$t\colon x'\to x$ について $(\pi_c\circ f)\circ t=\pi_c\circ(f\circ t)$ なので、自然性も成り立つ。$\blacksquare$
逆に、ある対象 $E$ と楔 $\pi$ についてこの写像がすべての $x$ で全単射なら、$E$ はエンドである(全単射であることが普遍性そのものだから)。この意味で、$\mathcal D$ でのエンドは $\mathbf{Set}$ でのエンドによって表現される対象である。
$H:(\mathcal C\times\mathcal A)^{\mathrm{op}}\times(\mathcal C\times\mathcal A)\to\mathcal D$ とする。$\mathcal A$ の対象 $a,a'$ のすべての組について内側のエンド $\int_cH((c,a),(c,a'))$ が存在すれば、それを $(a,a')$ の関手とみて
$$
\int_{(c,a)}H((c,a),(c,a))
\cong\int_a\int_c H((c,a),(c,a))
$$
が成り立ち、一方が存在すれば他方も存在する。$\mathcal C$ と $\mathcal A$ の役割を入れ替えた内側のエンドも存在すれば、二つの反復エンドは同型である(Mac98 Chapter IX §8, Proposition と Corollary、pp. 230–231、Kel82 §2.1、式(2.8)–(2.9))。
対象 $T$ から反復エンドへの射は、内側のエンドの普遍性により、$T\to H((c,a),(c,a))$ の族で、$a$ を固定するごとに $c$ について楔の条件を満たし、さらに $a$ についての楔の条件を満たすものに対応する。$a$ についての楔の条件は内側のエンドの値 $\int_cH((c,a),(c,a'))$ で比べる条件だが、内側の楔の普遍性により、これは各 $c$ の成分で比べる条件と同値である。積圏の射 $(u,v)\colon(c,a)\to(c',a')$ は $(u,1_a)$ と $(1_{c'},v)$ の合成として書ける。一般に、射 $f$ と $g$ について楔の条件が成り立てば合成 $g\circ f$ についても成り立つ($f\colon a\to b$、$g\colon b\to c$ のとき、二変数関手の交換 $H(1_a,g)H(f,1_b)=H(f,g)=H(f,1_c)H(1_b,g)$ を使うと
$$
H(1_a,gf)\alpha_a=H(1_a,g)H(f,1_b)\alpha_b=H(f,1_c)H(1_b,g)\alpha_b=H(f,1_c)H(g,1_c)\alpha_c=H(gf,1_c)\alpha_c
$$
となる)。したがって積圏全体についての楔の条件は、$\mathcal C$ の射についての条件と $\mathcal A$ の射についての条件を合わせたものと同じである。したがって $T$ からの二種類の楔は一対一に対応し、この対応は前合成と両立する。普遍的な楔どうしが対応するので、同型を得る。$\blacksquare$
内側のエンドを $a=a'$ の場合だけでなく、すべての組 $(a,a')$ について要求するのは、外側のエンドを取るために内側のエンドが $(a,a')$ の混合分散の関手になっている必要があるからである。
任意の関手に沿った添字の置換では、エンドは一般に変わる。例えば、矢印の条件を捨てて対象だけの離散圏にすると、エンドから単なる積になってしまう。固定点の例では、群を自明群に取り替えると $X^G$ が $X$ 全体に変わる。
また、エンド同士の交換と、エンド・コエンドの交換は別問題である。集合で二元集合 $I,J$ を使うと、$\prod_{i\in I}\coprod_{j\in J}*$ は4元だが、$\coprod_{j\in J}\prod_{i\in I}*$ は2元である。「どちらも積分記号だから順序を交換できる」とは言えない。
| 外す条件 | 反例 | 成り立たなくなること |
|---|---|---|
| 楔の条件 | 位数 $2$ の群が $\{0,1\}$ を交換する作用 | エンドが対象ごとの値の積と一致すること(積は二元、エンドは空) |
| 添字圏の射 | 群 $G$ を対象だけの離散圏に取り替える | エンドの値(固定点集合 $X^G$ から $X$ 全体へ変わる) |
| 同じ種類の積分であること | 二元集合 $I,J$ での $\prod_i\coprod_j*$ と $\coprod_j\prod_i*$ | 積分の順序の交換(4元と2元) |
| 楔の普遍性(楔であるだけ) | 固定点の例で、一点集合から一つの固定点を選ぶ楔($X^G$ が二点以上のとき) | エンドであること(一点集合は $X^G$ と同型でない) |
豊穣圏の枠組みでは、射の集まりが集合でなく基礎圏 $\mathcal V$ の対象である場合を扱う。整合性も $\mathcal V$ の構造を保って課す。自然変換は集合でなく自然変換対象になり、その対象が豊穣エンドで表される(Kel82 §2.2)。例えば加法的な状況では自然変換のアーベル群が得られる。独立記事エンド(豊穣圏)で、内部Homを使った等化子とその普遍性を定義する。
$(\infty,1)$-圏(準圏を模型とする)では、等式に代わるホモトピーとその高次の整合性が必要になる。独立記事エンド(∞圏)では、ねじれ矢印∞圏上の極限として定義する。単に上の二本の射の等化子をホモトピー等化子に替えるだけでは、一般の添字圏のすべての高次整合性を記述できない。
Mathpediaは寄付と、参考文献の書籍リンク(Amazonアソシエイト)の紹介料で運営されています。 支援について / 寄付する