コエンド

概要

コエンド(coend)とは、混合分散の関手 $H\colon\mathcal{C}^{\mathrm{op}}\times\mathcal{C}\to\mathcal{D}$ の値 $H(c,c)$ を集め、射の両側の作用に由来する関係を普遍的に課す構成であり、$\int^{c}H(c,c)$ と書く。関手 $F\colon\mathcal{C}\to\mathbf{Set}$ について余米田公式 $\int^{c}\mathcal{C}(c,-)\times F(c)\cong F$ が成り立ち、核の合成もコエンドで書けるので、圏を添字とする積分のように計算できる。

$$\newcommand{C}[0]{\mathbb{C}} \newcommand{N}[0]{\mathbb{N}} \newcommand{Q}[0]{\mathbb{Q}} \newcommand{R}[0]{\mathbb{R}} \newcommand{Z}[0]{\mathbb{Z}} $$

前提知識: 圏, 関手, 余極限(圏論), 余等化子, エンド

定義

$\mathcal C$ を小さい圏、$\mathcal D$ を局所小な圏、$H:\mathcal C^{\mathrm{op}}\times\mathcal C\to\mathcal D$ を関手とする。第1変数は反変、第2変数は共変である。

コエンドと余楔

$H$ から対象 $T$ への余楔(cowedge)とは、射 $\iota_c:H(c,c)\to T$ の族であって、すべての $u:c\to d$ について
$$ \iota_dH(1_d,u)=\iota_cH(u,1_c):H(d,c)\longrightarrow T $$
を満たすものである。コエンド(coend)は、普遍的な余楔 $j_c:H(c,c)\to Q$ を持つ対象 $Q$ である。すなわち任意の余楔 $\iota$ は、一意な射 $Q\to T$ を介して $j$ から得られる。
$$Q=\int^{c\in\mathcal C}H(c,c)$$
と書く。存在すれば普遍的な余楔を保つ同型を除いて一意である。

余楔の条件は、各射 $u\colon c\to d$ ごとに次の四角形が可換になることである。
$$ \begin{CD} H(d,c) @>{H(1_d,u)}>> H(d,d)\\ @V{H(u,1_c)}VV @VV{\iota_d}V\\ H(c,c) @>{\iota_c}>> T \end{CD} $$
出発点の $H(d,c)$ は、第1変数に $u$ の終域、第2変数に始域が入った値である。エンドの楔の四角形では、$u$ の始域と終域がこの逆の位置に入った $H(c,d)$ が到着点だった。
添字を上に置く点で、エンド $\int_c$ と区別する。コエンドの定義はエンドの定義の双対である。添字圏を $\mathcal C^{\mathrm{op}}$、値の圏を $\mathcal D^{\mathrm{op}}$ とみて、関手 $K(x,y)=H(y,x)$($K\colon\mathcal C\times\mathcal C^{\mathrm{op}}\to\mathcal D^{\mathrm{op}}$)を考えると、$K$ への楔は $H$ からの余楔そのものであり、$K$ のエンドは $H$ のコエンドである。このため、エンドについて証明した命題は、向きを逆にしてコエンドにも成り立つ。小さい余極限(圏論)を持つ $\mathcal D$ では常に存在する。定義は Mac98 Chapter IX §6(p. 226)、Kel82 §3.10 に対応する。

直観:関係を課して足し合わせる

集合に値を取る場合は
$$ \int^cH(c,c)=\left(\coprod_cH(c,c)\right)\big/\sim $$
であり、$u:c\to d$ と $z\in H(d,c)$ に対して
$$ (c,H(u,1_c)z)\sim(d,H(1_d,u)z) $$
を生成関係とする。各 $c$ から値を集めたあと、射に沿う二つの表現を同一視する。
離散圏なら関係は自明なので余積になる。この意味で、コエンドは圏を添字とする和に近い。ただし一般の圏には射があり、その射が同一視を指定するため、単なる余積以上の情報を使う。
積分の比喩を支えるのは、変数の消去、二重コエンドの交換、核の合成、米田の補題による「評価への簡約」である。面積・測度・実数値の重みを使う解析的積分そのものではない。

例

離散圏

$I$ が離散圏なら $\int^iH(i,i)=\coprod_{i\in I}H(i,i)$ である。空の添字圏では始対象になる。

一本の矢印

$\mathcal C=(0\to1)$ なら
$$ \int^cH(c,c)\cong H(0,0)\coprod_{H(1,0)}H(1,1). $$
右辺は押し出しである。関係の出発点は $H(1,0)$ である。エンドの例に現れる $H(0,1)$ と向きを取り違えない。

群の軌道集合

群 $G$ を一対象圏とし、$G$-集合 $X$ について $H(*,*)=X$、第1変数の作用を自明、第2変数の作用を与えられた群作用とする。生成関係は $u=g$、$z=x$ として $(x)\sim(g\cdot x)$ となるので、コエンドは $x\sim gx$ による商、すなわち軌道集合 $X/G$ である。エンド の例「群作用の固定点」では同じ $H$ のエンドが固定点集合 $X^G$ になり、二つは「部分集合を取る」と「商を取る」の対をなす。

反例:対象ごとの値を並べただけではない

位数2の群が $\{0,1\}$ を交換する場合、対象は一つなので対象ごとの余積は二元集合のままである。しかしコエンドは両元を同一視した一点集合になる。群が自明に作用する場合の二元集合と対比できる。

反例:集合値のコエンドはテンソル積にならない

体 $k$ の乗法モノイド $(k,\cdot)$ を一対象圏とみなし、$N=k^2$ に右からのスカラー倍、$W=k^2$ に左からのスカラー倍を考える。$H(*,*)=N\times W$ とし、第1変数の射 $c$ は $(v,w)\mapsto(vc,w)$、第2変数の射 $c$ は $(v,w)\mapsto(v,cw)$ に送る。$\mathbf{Set}$ でのコエンドは
$$ \int^{*}H=(N\times W)/\bigl((vc,w)\sim(v,cw)\bigr) $$
である。写像 $(v,w)\mapsto vw^{\mathsf T}$($v,w$ を縦ベクトルとみた $2\times2$ 行列)はこの関係を保つ。この写像はコエンドから階数 $1$ 以下の行列全体への全単射を与える。
実際、$vw^{\mathsf T}=v'w'^{\mathsf T}\ne0$ なら、行列の列空間と行空間を比べて $v'=vc$、$w=cw'$ となる $c\ne0$ が取れるので $(v,w)=(v,cw')\sim(vc,w')=(v',w')$ である。値が $0$ なら $v=0$ か $w=0$ で、$(0,w)=(0\cdot0,w)\sim(0,0\cdot w)=(0,0)$、$(v,0)=(v,0\cdot0)\sim(v\cdot0,0)=(0,0)$ となり、すべて $(0,0)$ の類に入る。任意の階数 $1$ 以下の行列は $vw^{\mathsf T}$ と書けるので全射でもある。
一方、テンソル積 $k^2\otimes_kk^2$ は $2\times2$ 行列全体 $k^4$ と同型であり、単位行列 $e_1e_1^{\mathsf T}+e_2e_2^{\mathsf T}$ は階数 $2$ なので集合値のコエンドの像に入らない。テンソル積は、Hom がアーベル群である圏(加法圏)での豊穣コエンドとして得られ(Mac98 Chapter IX §6、p. 226)、そこでは和の関係も同時に課される。基礎とする圏を $\mathbf{Set}$ から $\mathbf{Ab}$ に替えるとコエンドの値が変わることを、この例は示している。

性質

余極限による構成

余積と余等化子による構成

必要な余積(圏論)と余等化子が存在すれば、
$$ \int^cH(c,c)\cong \operatorname{Coeq}\left( \coprod_{u:c\to d}H(d,c)\rightrightarrows \coprod_cH(c,c)\right). $$
各 $u$ に対する二本の射は $H(u,1_c)$ と $H(1_d,u)$ であり、到着する成分はそれぞれ $c$ と $d$ である。

証明の所在

これは エンド の命題「積と等化子による構成」の双対であり、同じ証明を向きを逆にして読めばよい。右側の余積から $T$ への射は射の族 $\iota_c\colon H(c,c)\to T$ と同じで、二本の射を等しくする条件が余楔の条件になる。

$\mathbf{Set}$ ではこれが上の「商集合」による表示である。余積は非交和、余等化子は生成された同値関係による商であり、$u$ ごとの二本の射が生成関係 $(c,H(u,1_c)z)\sim(d,H(1_d,u)z)$ を与える。同じく エンド の命題「分割圏の上の極限としてのエンド」「極限はエンドである」の双対により、コエンドは分割圏の上の余極限として書け、逆にすべての余極限はコエンドとして書ける。

Hom 関手による特徴づけ

Hom 関手はコエンドをエンドに変える

$H$ のコエンド $Q=\int^cH(c,c)$ と普遍的な余楔 $j$ が存在するとき、各対象 $x\in\mathcal D$ について、写像
$$ \operatorname{Hom}_{\mathcal D}\Bigl(\int^cH(c,c),x\Bigr)\longrightarrow\int_c\operatorname{Hom}_{\mathcal D}\bigl(H(c,c),x\bigr),\qquad f\longmapsto(f\circ j_c)_c $$
は全単射であり、$x$ について自然である。右辺は $\mathbf{Set}$ でのエンドである(Mac98 Chapter IX §5, (5)、p. 225)。

右辺の混合分散の関手は $(c,d)\mapsto\operatorname{Hom}_{\mathcal D}(H(d,c),x)$ である。第1変数 $c$ について、$H(d,c)$ は $c$ に共変なので $\operatorname{Hom}(H(d,c),x)$ は $c$ に反変、第2変数 $d$ について、$H(d,c)$ は $d$ に反変なので $\operatorname{Hom}(H(d,c),x)$ は $d$ に共変であり、確かに混合分散の関手になる。この関手を $K(c,d)=\operatorname{Hom}_{\mathcal D}(H(d,c),x)$ と書く。$u\colon c\to d$ について、$K(1_c,u)$ は $H(u,1_c)\colon H(d,c)\to H(c,c)$ との前合成、$K(u,1_d)$ は $H(1_d,u)\colon H(d,c)\to H(d,d)$ との前合成である。したがって $K$ のエンドの元は、族 $(\iota_c\colon H(c,c)\to x)_c$ で
$$ \iota_c\circ H(u,1_c)=\iota_d\circ H(1_d,u)\colon H(d,c)\longrightarrow x $$
をすべての $u$ について満たすもの、すなわち $x$ への余楔である。$j$ は余楔なので $(f\circ j_c)_c$ も余楔であり、写像は定義できる。コエンドの普遍性は、任意の余楔 $\iota$ に対して $f\circ j_c=\iota_c$ となる $f$ がただ一つあることであり、これはこの写像が全単射であることの言い換えである。$t\colon x\to x'$ について $t\circ(f\circ j_c)=(t\circ f)\circ j_c$ なので、自然性も成り立つ。$\blacksquare$

コエンドは「そこから出る射」がエンドで計算される対象である。積分記号が上下に入れ替わるのは、$\operatorname{Hom}(-,x)$ が第1変数について反変で、余極限を極限に変えるからである。

余米田公式

余米田公式

前層(圏論) $P:\mathcal C^{\mathrm{op}}\to\mathbf{Set}$ と $x\in\mathcal C$ に対して
$$ \int^c P(c)\times\operatorname{Hom}_{\mathcal C}(x,c)\cong P(x). $$
ここで混合分散の関手は $H(a,b)=P(a)\times\operatorname{Hom}_{\mathcal C}(x,b)$ である。

代表元 $(p,u)$($p\in P(c),u:x\to c$)を $P(u)(p)$ に送る。$v:c\to d$ に由来する関係は $(P(v)q,u)\sim(q,vu)$($q\in P(d)$、$u\colon x\to c$)であり、どちらも $P(u)P(v)q=P(vu)q$ に送られるので、この写像はコエンドから $P(x)$ への写像として定まる。逆に $q\in P(x)$ を $[q,1_x]$ に送る。$(p,u)$ に対して $v=u$ に由来する関係を $q=p$ に当てはめると $[P(u)p,1_x]=[p,u\circ1_x]=[p,u]$ となるので、この二つの写像は互いに逆である。$\blacksquare$

この公式は、エンド の命題「米田の補題のエンド表示」と対になる。エンドの側では Hom 関手を写像の定義域に置いて評価し、コエンドの側では Hom 関手と直積を取って評価する。$x$ を動かすと、前層 $P$ は表現可能前層 $\operatorname{Hom}_{\mathcal C}(-,c)$ を $P(c)$ 個ずつ貼り合わせたものとして書ける(Mac98 Chapter IX §6 の演習 5、p. 227 は、この「関手のテンソル積」の一般形を扱う)。

単体的集合を空間として実現する

単体的集合 $S\colon\Delta^{\mathrm{op}}\to\mathbf{Set}$ と、$[n]$ を標準 $n$ 単体 $\Delta^n$ へ送る関手 $\Delta\to\mathbf{Top}$ から、$([n],[m])\mapsto S_n\times\Delta^m$($S_n$ 個の $\Delta^m$ の非交和)という混合分散の関手ができる。そのコエンド
$$ \lvert S\rvert=\int^{[n]\in\Delta}S_n\times\Delta^n $$
が $S$ の幾何学的実現である(Mac98 Chapter IX §6、p. 227)。$S_n$ の元ごとに $n$ 単体を一つ用意し、面写像・退化写像に沿って貼り合わせるという記述が、コエンドの生成関係そのものになっている。

積分計算との対応

Fubini型の交換

小さい $\mathcal C,\mathcal A$ に対する混合分散の関手 $H$ について、内側のコエンドが必要な組ですべて存在し、以下のいずれかの外側のコエンドが存在すれば、三つとも存在して
$$ \int^c\int^a H((c,a),(c,a)) \cong\int^{(c,a)}H((c,a),(c,a)) \cong\int^a\int^c H((c,a),(c,a)). $$
各変数について余楔になる条件をどちらの順で課しても同じ、という普遍性から従う。エンド の命題「Fubini型の交換則」の双対である(Kel82 §3.10)。

核の合成と「デルタ関数」の比喩

関手 $P:\mathcal A^{\mathrm{op}}\times\mathcal B\to\mathbf{Set}$ と $Q:\mathcal B^{\mathrm{op}}\times\mathcal E\to\mathbf{Set}$ を核のように考えると、合成は
$$ (Q\odot P)(a,e)=\int^{b\in\mathcal B}P(a,b)\times Q(b,e) $$
と定義できる。これをプロ関手の合成という。離散的な $\mathcal B$ では、行列積の「中間添字について和を取る」構造に似た式になる。ただし乗算・加算の代わりに直積・余積を使う。
Hom関手はこの合成の恒等核を担う。余米田公式は「Homという核に対して積分すると、指定した点での値が戻る」ことを述べる。この働きがデルタ関数との対応であって、Hom集合が数値的なデルタ分布であるという意味ではない。
三つの核の合成の結合性は、Fubini則と、集合の直積が各変数で余極限を保つことから従う。このように積分記号は、単なる見た目の比喩ではなく、反復合成を計算する記法になる。

交換できないもの

エンドとコエンドの混合した順序交換には別条件が必要である。二元集合 $I,J$ に対し $\prod_i\coprod_j*$ は4元、$\coprod_j\prod_i*$ は2元であり、一般には一致しない。また添字を任意の関手に沿って取り替えると、関係の数や内容が変わり得る。解析の変数変換公式やJacobianを無条件に持ち込まない。

反例の表

外す条件反例成り立たなくなること
余楔の関係位数 $2$ の群が $\{0,1\}$ を交換する作用コエンドが対象ごとの値の余積と一致すること(余積は二元、コエンドは一点)
和の関係(基礎の圏を $\mathbf{Ab}$ から $\mathbf{Set}$ にする)$k^2$ と $k^2$ の、乗法モノイド $k$ 上の集合値のコエンドテンソル積 $k^2\otimes_kk^2$ との一致(単位行列が像に入らない)
同じ種類の積分であること二元集合 $I,J$ での $\prod_i\coprod_j*$ と $\coprod_j\prod_i*$積分の順序の交換(4元と2元)
添字圏の射群 $G$ を対象だけの離散圏に取り替えるコエンドの値(軌道集合 $X/G$ から $X$ 全体へ変わる)

豊穣圏版への補足

豊穣圏の枠組みでは、集合の直積を基礎圏のテンソル積へ置き換え、同一視を豊穣構造の中で行うと、豊穣コエンドになる。典型例は環上のテンソル積である。右 $R$-加群 $N$ と左 $R$-加群 $M$ に対して、関係 $nr\otimes m=n\otimes rm$ がコエンドの関係になる(Mac98 Chapter IX §6、p. 226)。上の反例が示すとおり、この関係を $\mathbf{Set}$ で課すだけではテンソル積にならない。独立記事コエンド(豊穣圏)で定義と計算を行う。

∞圏版への補足

∞圏では、同一視するだけでなく、同一視を行うホモトピーとその整合性も保持する。例えば群の作用のコエンドは、単なる軌道集合でなくホモトピー軌道になり得る。独立記事コエンド(∞圏)でねじれ矢印∞圏を使って定義する。

関連項目

参考文献

[1]
Saunders Mac Lane, Categories for the Working Mathematician (2nd ed.), Graduate Texts in Mathematics 5, Springer, Chapter IX §5, (5)(p. 225)、§6(pp. 226–227、環上のテンソル積と幾何学的実現)、§8(pp. 230–231)

Mathpediaは寄付と、参考文献の書籍リンク(Amazonアソシエイト)の紹介料で運営されています。 支援について / 寄付する