コエンド

概要

定義

$\mathcal C$ を小さい圏、$\mathcal D$ を局所小な圏、$H:\mathcal C^{\mathrm{op}}\times\mathcal C\to\mathcal D$ を関手とする。第1変数は反変、第2変数は共変である。

コエンドと余楔

$H$ から対象 $T$ への余楔（cowedge）とは、射 $\iota_c:H(c,c)\to T$ の族であって、すべての $u:c\to d$ について
$$ \iota_dH(1_d,u)=\iota_cH(u,1_c):H(d,c)\longrightarrow T $$
を満たすものである。コエンド（coend）は、普遍的な余楔 $j_c:H(c,c)\to Q$ を持つ対象 $Q$ である。すなわち任意の余楔 $\iota$ は、一意な射 $Q\to T$ を介して $j$ から得られる。
$$Q=\int^{c\in\mathcal C}H(c,c)$$
と書く。存在すれば普遍的な余楔を保つ同型を除いて一意である。

添字を上に置く点で、エンド $\int_c$ と区別する。小さい余極限(圏論)を持つ $\mathcal D$ では常に存在する。定義・構成は Rie14 §§7.2–7.3、Kel82 §3.10 に対応する。

直感：関係を課して足し合わせる

集合に値を取る場合は
$$ \int^cH(c,c)=\left(\coprod_cH(c,c)\right)\big/\sim $$
であり、$u:c\to d$ と $z\in H(d,c)$ に対して
$$ (c,H(u,1_c)z)\sim(d,H(1_d,u)z) $$
を生成関係とする。各 $c$ から値を集めたあと、射に沿う二つの表現を同一視する。
離散圏なら関係は自明なので余積になる。この意味で、コエンドは圏を添字とする和に近い。ただし一般の圏には射があり、その射が同一視を指定するため、単なる余積以上の情報を使う。
積分の比喩を支えるのは、変数の消去、二重コエンドの交換、核の合成、米田の補題による「評価への簡約」である。面積・測度・実数値の重みを使う解析的積分そのものではない。

例

離散圏

$I$ が離散圏なら $\int^iH(i,i)=\coprod_{i\in I}H(i,i)$ である。空の添字圏では始対象になる。

一本の矢印

$\mathcal C=(0\to1)$ なら
$$ \int^cH(c,c)\cong H(0,0)\coprod_{H(1,0)}H(1,1). $$
右辺は押し出しである。関係の出発点は $H(1,0)$ である。エンドの例に現れる $H(0,1)$ と向きを取り違えない。

群の軌道集合

群 $G$ を一対象圏とし、$G$-集合 $X$ について $H(*,*)=X$、第1変数の作用を自明、第2変数の作用を与えられた群作用とする。コエンドは $x\sim gx$ による商、すなわち軌道集合 $X/G$ である。

反例：対象ごとの値を並べただけではない

位数2の群が $\{0,1\}$ を交換する場合、対象は一つなので対象ごとの余積は二元集合のままである。しかしコエンドは両元を同一視した一点集合になる。群が自明に作用する場合の二元集合と対比できる。

性質

余積と余等化子による構成

必要な余積(圏論)と余等化子が存在すれば、
$$ \int^cH(c,c)\cong \operatorname{Coeq}\left( \coprod_{u:c\to d}H(d,c)\rightrightarrows \coprod_cH(c,c)\right). $$
各 $u$ に対する二本の射は $H(u,1_c)$ と $H(1_d,u)$ であり、到着する成分はそれぞれ $c$ と $d$ である。Rie14 §7.3 のエンド表示の双対。

余等化子の普遍性

右側の余積から $T$ への射は、射の族 $\iota_c:H(c,c)\to T$ と同じである。これが二本の射を等しくする条件は余楔の等式に一致する。余等化子から $T$ への一意な射が存在する条件は、従ってコエンドの普遍性そのものである。

余米田公式

前層(圏論) $P:\mathcal C^{\mathrm{op}}\to\mathbf{Set}$ と $x\in\mathcal C$ に対して
$$ \int^c P(c)\times\operatorname{Hom}_{\mathcal C}(x,c)\cong P(x). $$
ここで混合分散の関手は $H(a,b)=P(a)\times\operatorname{Hom}_{\mathcal C}(x,b)$ である。Rie14 §7.2 の米田による表示を反対圏に適用した形。

評価による計算

代表元 $(p,u)$（$p\in P(c),u:x\to c$）を $P(u)(p)$ に送る。$v:c\to d$ に由来する関係は $(P(v)q,u)\sim(q,vu)$ であり、どちらも $P(u)P(v)q=P(vu)q$ に送られる。逆に $q\in P(x)$ を $[q,1_x]$ に送る。関係から $[p,u]=[P(u)p,1_x]$ なので、この二つの写像は互いに逆である。

コエンドは、ねじれ矢印圏を添字とする重み付き極限の双対（重み付き余極限）の特別な場合として復元できる。

積分計算との対応

Fubini型の交換

小さい $\mathcal C,\mathcal A$ に対する混合分散の関手 $H$ について、必要なコエンドが存在すれば
$$ \int^c\int^a H((c,a),(c,a)) \cong\int^{(c,a)}H((c,a),(c,a)) \cong\int^a\int^c H((c,a),(c,a)). $$
各変数について余楔になる条件をどちらの順で課しても同じ、という普遍性から従う。エンドのFubini則の双対である。Kel82 §§2.1, 3.10。

核の合成と「デルタ関数」の比喩

関手 $P:\mathcal A^{\mathrm{op}}\times\mathcal B\to\mathbf{Set}$ と $Q:\mathcal B^{\mathrm{op}}\times\mathcal E\to\mathbf{Set}$ を核のように考えると、合成は
$$ (Q\odot P)(a,e)=\int^{b\in\mathcal B}P(a,b)\times Q(b,e) $$
と定義できる。これをプロ関手の合成という。離散的な $\mathcal B$ では、行列積の「中間添字について和を取る」構造に似た式になる。ただし乗算・加算の代わりに直積・余積を使う。
Hom関手はこの合成の恒等核を担う。余米田公式は「Homという核に対して積分すると、指定した点での値が戻る」ことを述べる。この働きがデルタ関数との対応であって、Hom集合が数値的なデルタ分布であるという意味ではない。
三つの核の合成の結合性は、Fubini則と、集合の直積が各変数で余極限を保つことから従う。このように積分記号は、単なる見た目の比喩ではなく、反復合成を計算する記法になる。

交換できないもの

エンドとコエンドの混合した順序交換には別条件が必要である。二元集合 $I,J$ に対し $\prod_i\coprod_j*$ は4元、$\coprod_j\prod_i*$ は2元であり、一般には一致しない。また添字の変更は、例えば圏同値なら安全だが、任意の関手なら関係の数や内容が変わり得る。解析の変数変換公式やJacobianを無条件に持ち込まない。

豊穣圏版への補足

豊穣圏の枠組みでは、集合の直積を基礎圏のテンソル積へ置き換え、同一視を豊穣構造の中で行うと、豊穣コエンドになる。典型例は環上のテンソル積である。右 $R$-加群 $N$ と左 $R$-加群 $M$ に対して、関係 $nr\otimes m=n\otimes rm$ がコエンドの関係になる。独立記事コエンド(豊穣圏)で定義と計算を行う。