エンド

概要

定義

$\mathcal C$ を小さい圏、$\mathcal D$ を局所小な圏、$H:\mathcal C^{\mathrm{op}}\times\mathcal C\to\mathcal D$ を関手とする。第1変数は反変、第2変数は共変である。以下の積(圏論)・等化子が存在すればエンドは存在する。特に $\mathcal D$ が小さい極限(圏論)を持てば十分である。

エンドと楔

対象 $T$ から $H$ への楔（wedge）とは、射 $\alpha_c:T\to H(c,c)$ の族であって、すべての $u:c\to d$ について
$$ H(1_c,u)\alpha_c=H(u,1_d)\alpha_d:T\longrightarrow H(c,d) $$
を満たすものである。エンド（end）は、普遍的な楔 $\pi_c:E\to H(c,c)$ を持つ対象 $E$ である。すなわち、任意の楔 $\alpha$ に対し $\pi_cf=\alpha_c$ をすべての $c$ で満たす射 $f:T\to E$ がただ一つ存在する。
$$E=\int_{c\in\mathcal C}H(c,c)$$
と書く。存在すれば普遍的な楔を保つ同型を除いて一意である。

これは通常の極限に似ているが、一般に $c\mapsto H(c,c)$ は $\mathcal C\to\mathcal D$ という関手ではない。射 $u:c\to d$ は第1変数と第2変数で逆向きに作用するためである。従って「対角上の値の極限」とだけ述べるのでは定義にならない。定義と以下の表示は Rie14 §7.3、Kel82 §2.1 を集合による豊穣化に特殊化したものに対応する。

直感：積分記号は何をしているか

エンドは、すべての $c$ にわたる値を整合する一つの族としてまとめる。$\mathcal D=\mathbf{Set}$ なら
$$ \int_cH(c,c)= \left\{(x_c)\in\prod_cH(c,c)\ \middle|\ H(1_c,u)x_c=H(u,1_d)x_d\text{ for all }u:c\to d\right\}. $$
積分記号は変数 $c$ を束縛して消去する記号として働く。しかし、数を加算したり面積を測ったりしているわけではない。離散的な添字ではエンドは積になり、和ではない。和に近い役割を担うのは、上付き添字で書くコエンド $\int^c$ の方である。
「積分らしさ」の実質は、反変・共変の変数を組にして消去すること、二重エンドを交換できること、Hom関手を使う計算が評価に簡約されることにある。測度、微小量 $dc$、数値的な積分の収束はこの定義には含まれない。

例

離散圏と空圏

$\mathcal C$ が集合 $I$ を対象とし恒等射しか持たないなら、条件は自動的で、$\int_cH(c,c)=\prod_{i\in I}H(i,i)$ である。$I=\emptyset$ なら、これは $\mathcal D$ の終対象である。

一本の矢印

$\mathcal C=(0\to1)$ では、非自明な条件は $H(0,0)$ と $H(1,1)$ から $H(0,1)$ への像が一致することである。従って
$$\int_cH(c,c)\cong H(0,0)\times_{H(0,1)}H(1,1).$$
ここで右辺は引き戻しであり、「二つの値を両立させる」ことを表す。

自然変換の集合

関手 $F,G:\mathcal C\to\mathcal D$ に対して
$$ \operatorname{Nat}(F,G)\cong \int_c\operatorname{Hom}_{\mathcal D}(F(c),G(c)). $$
右辺の混合分散の関手は $H(c,d)=\operatorname{Hom}_{\mathcal D}(F(c),G(d))$ である。このエンドは $\mathbf{Set}$ で取る。

自然変換の表示

上の自然変換の例では、楔の元は射 $\alpha_c:F(c)\to G(c)$ の族である。エンドの条件は
$$G(u)\alpha_c=\alpha_dF(u)$$
となり、これは自然変換の定義にほかならない。従って元と自然変換が一対一に対応する。

反例：積のすべての元が残るわけではない

位数2の群 $G$ を一対象の圏とみなし、$H(*,*)=\{0,1\}$、第1変数の作用を恒等、第2変数の非自明な群元の作用を $0$ と $1$ の交換とする。二つの作用は可換なので $H$ は関手になる。対象ごとの積は二元集合だが、エンドの元には $x=1-x$ が必要であり、エンドは空集合である。

性質

積と等化子による構成

必要な積と等化子が存在するとき、
$$ \int_cH(c,c)\cong \operatorname{Eq}\left( \prod_cH(c,c)\rightrightarrows \prod_{u:c\to d}H(c,d) \right). $$
二本の射の $u$ 成分は、$c$ 成分に $H(1_c,u)$ を作用させたものと、$d$ 成分に $H(u,1_d)$ を作用させたものである。Rie14 §7.3。

等化子の普遍性

$T$ から左側の積への射は、射の族 $\alpha_c:T\to H(c,c)$ と同じである。二本の射との合成が一致する条件は、各 $u$ について楔の等式が成り立つことと同じである。等化子の普遍性が、楔の一意な因子分解をそのまま与える。

Fubini型の交換則

$H:(\mathcal C\times\mathcal A)^{\mathrm{op}}\times(\mathcal C\times\mathcal A)\to\mathcal D$ に対し、必要なエンドが存在すれば
$$ \int_c\int_a H((c,a),(c,a)) \cong\int_{(c,a)}H((c,a),(c,a)) \cong\int_a\int_c H((c,a),(c,a)). $$
内側のエンドを取る際は、外側の二つの変数を独立なパラメータとして残す。Kel82 §2.1、式(2.8)–(2.9)。

二種類の整合条件

任意の $T$ から反復エンドへの射は、$T\to H((c,a),(c,a))$ の族で、$a$ の射と $c$ の射それぞれに関して楔の条件を満たすものに対応する。積圏の射はこの二種類の射の合成として書け、両作用は可換する。従ってこの条件は積圏全体に関する楔の条件と同じである。三つの対象が同じ普遍性を持つので、自然な同型を得る。

エンドは、ねじれ矢印圏を添字とする重み付き極限の特別な場合として復元できる。

計算法の範囲

添字圏の同値に沿って両変数を移せばエンドは同型になる。一方、任意の関手に沿った添字の置換では一般に変わる。例えば、矢印の条件を捨てて対象だけの離散圏にすると、エンドから単なる積になってしまう。
また、エンド同士の交換と、エンド・コエンドの交換は別問題である。集合で二元集合 $I,J$ を使うと、$\prod_{i\in I}\coprod_{j\in J}*$ は4元だが、$\coprod_{j\in J}\prod_{i\in I}*$ は2元である。「どちらも積分記号だから順序を交換できる」とは言えない。

豊穣圏版への補足

豊穣圏の枠組みでは、射の集まりが集合でなく基礎圏 $\mathcal V$ の対象である場合を扱う。整合性も $\mathcal V$ の構造を保って課す。自然変換は集合でなく自然変換対象になり、その対象が豊穣エンドで表される。例えば加法的な状況では自然変換のアーベル群が得られる。独立記事エンド(豊穣圏)で、内部Homを使った等化子とその普遍性を定義する。