コエンド(∞圏)(coend in an infinity-category)とは、混合分散の関手を、変数を交換した反対ねじれ矢印 ∞ 圏へ引き戻し、その上で余極限をとる構成である。通常のコエンドが商をとって同一視するのに対し、同一視の過程をホモトピーとして残すので、群で添字づけた場合には基本群が残り、通常の軌道の集合とは一致しない。一方で連結成分の集合は通常のコエンドと一致する。一本の矢印の上のコエンドは押し出しであり、空間に値をとる関手は表現可能関手とのコエンドとして書き直せ(余米田公式)、二つの変数についてのコエンドは順序を入れ替えても同値になる(Fubini 型の交換)。
本記事では $(\infty,1)$-圏(∞圏)を準圏で扱う。準圏は、内部ホーン $\Lambda_i^n$($0< i< n$)の写像を $\Delta^n$ へ延長できる単体的集合である。写像空間(写像空間(∞圏))$\operatorname{Map}_{\mathcal D}(x,y)$ は、射とその間のすべての高次ホモトピーを表す。空間の∞圏を $\mathcal S$ と書く。通常の圏はその脈体を通じてこの理論に含まれる。HTT09 §§1.1.2, 1.1.5。
準圏 $\mathcal C$ の左ねじれ矢印∞圏(エンド(∞圏))$\operatorname{Tw}^{\ell}(\mathcal C)$ は、$n$-単体を
$$
\operatorname{Hom}_{\mathrm{sSet}}((\Delta^n)^{\mathrm{op}}\star\Delta^n,\mathcal C)
$$
とする。$\star$ は左右の単体の頂点を順につなぐjoinであり、ここでは $2n+2$ 頂点の単体を与える。面・退化は両側への制限で定まる。射影 $\pi:\operatorname{Tw}^{\ell}(\mathcal C)\to\mathcal C^{\mathrm{op}}\times\mathcal C$ は、射 $c\to d$ を $(c,d)$ に送る。
コエンドのためには、その反対∞圏からの関手
$$
\tau:\operatorname{Tw}^{\ell}(\mathcal C)^{\mathrm{op}}
\xrightarrow{\pi^{\mathrm{op}}}\mathcal C\times\mathcal C^{\mathrm{op}}
\xrightarrow{\mathrm{swap}}\mathcal C^{\mathrm{op}}\times\mathcal C
$$
を使う。従って $\tau(c\to d)=(d,c)$ である。
通常の圏の場合、左ねじれ矢印圏の射 $(c\xrightarrow f d)\to(c'\xrightarrow g d')$ は $a:c'\to c,b:d\to d'$ で $g=bfa$ を満たす組である。反対を取ることと、$H$ に代入する変数を交換することの両方が必要である。$\operatorname{Tw}^{\ell}(\mathcal C)$ が準圏であり、$\pi$ が $\mathcal C^{\mathrm{op}}\times\mathcal C$ 上の左ファイブレーション(ホーンと充填条件)であることの出典は HA17 Proposition 5.2.1.3(p. 805。そこでは反対の向きの右ファイブレーションとして述べられている)であり、Hau21 Proposition 3.2 はこれを左ねじれ矢印の形で述べる。右ねじれ矢印∞圏 $\operatorname{Tw}^{\ell}(\mathcal C)^{\mathrm{op}}$ による余極限の表示は Hau21 Variant 3.3, Remark 3.9 による。
$\mathcal C$ を小さい∞圏、$H:\mathcal C^{\mathrm{op}}\times\mathcal C\to\mathcal D$ を関手とする。コエンドを
$$
\int^cH(c,c)=
\operatorname{colim}_{\operatorname{Tw}^{\ell}(\mathcal C)^{\mathrm{op}}}H\tau
$$
で定義する。この余極限(余極限(∞圏))の存在を仮定し、例えば $\mathcal D$ が小さい余極限をすべて持てば十分である。
その普遍性は、すべての $T$ に対して自然な同値
$$
\operatorname{Map}_{\mathcal D}\left(\int^cH(c,c),T\right)
\simeq
\lim_{(c\to d)\in\operatorname{Tw}^{\ell}(\mathcal C)}
\operatorname{Map}_{\mathcal D}(H(d,c),T)
$$
を与えることである。右辺の図式は $H\tau$ に反変な $\operatorname{Map}_{\mathcal D}(-,T)$ を施したものとする。
普遍的な余錐は、整合させるホモトピーとその高次の関係をすべて含む。Hau21 Remark 3.9。本記事ではコエンドの添字を上に置くが、文献によって記号の上下に別の規約がある。
通常の集合値コエンド(コエンド)は、余積に関係を課した商集合である。空間値のコエンドでは、関係を単なる等式に押し潰さず、点を結ぶ道、その道の間のホモトピー、さらに高次の情報を含めて貼り合わせる。
この意味で、コエンドは「ホモトピー整合的な和と同一視」である。積分記号は、添字の消去や核の合成を表す計算記号として働く。通常の積分の微小量や測度を導入しているわけではない。
離散集合 $I$ を添字とすると、$\int^iH(i,i)\simeq\coprod_{i\in I}H(i,i)$ である。特に $I=\emptyset$ では始対象(始対象(∞圏))になる。$\mathcal C$ が通常の圏 $[1]=\{0\to1\}$ の脈体なら
$$
\int^cH(c,c)\simeq H(0,0)\amalg_{H(1,0)}H(1,1)
$$
であり、右辺は $\mathcal D$ 内の∞圏的押し出しである。二本の射 $H(1,0)\to H(0,0)$、$H(1,0)\to H(1,1)$ は、それぞれ第1変数、第2変数への $0\to1$ の作用である。
通常の圏 $A$ の脈体では、$\operatorname{Tw}^{\ell}(N(A))$ は通常のねじれ矢印圏の脈体である。$I$ が離散ならねじれ矢印圏も $I$ と同じ離散圏で、その反対も同じであり、離散な図式の余極限は余積である。
$A=[1]$ のとき、ねじれ矢印圏は余スパン $1_0\to u\leftarrow1_1$ である($u\colon0\to1$。計算はエンド(∞圏)の命題「離散添字と一本の矢印」の証明にある)。その反対はスパン $1_0\leftarrow u\to1_1$ であり、スパン上の余極限は押し出しである。$\tau(1_0)=(0,0)$、$\tau(u)=(1,0)$、$\tau(1_1)=(1,1)$ なので、$H\tau$ はスパン $H(0,0)\leftarrow H(1,0)\to H(1,1)$ になる。$1_0\to u$ は組 $(1_0,u)$、$1_1\to u$ は組 $(u,1_1)$ で与えられるから、反対をとったスパンの左の射は $H$ の第1変数への $u$ の作用 $H(u,1)$、右の射は第2変数への作用 $H(1,u)$ である。$\square$
空間の場合、この押し出しはホモトピー押し出しである。たとえば $H(1,0)=S^0$(離散二点)、$H(0,0)=H(1,1)=*$ ならコエンドは円周 $S^1$ である(余極限(∞圏)の例「二点の懸垂」)。集合の圏で同じ押し出しをとると一点になる。
非自明な群 $G$ が一点に作用すると、集合の圏でのコエンドは一点である。しかし空間の∞圏では上の例の $BG$ になり、基本群 $G$ が残る。入力の各値が離散空間でも、その∞圏的コエンドが離散空間になるとは限らない。連結成分の集合だけを見れば $\pi_0(BG)=*$ で集合のコエンドと一致し、違いは基本群以上に現れる(下の命題「連結成分との交換」)。
$\mathcal D$ を有限集合の圏の脈体、$\mathcal C$ を可算無限の離散集合 $\mathbb N$ とし、$H(i,j)=\{0,1\}$(射はすべて恒等写像)とする。prop-coend-infinity-elementary によりコエンドは余積 $\coprod_{i\in\mathbb N}\{0,1\}$ であるべきだが、有限集合の圏にこの余積はない。実際、余積 $Q$ があれば $\operatorname{Hom}(Q,\{0,1\})$ は写像 $\{0,1\}\to\{0,1\}$(4 個)の列全体と全単射になり非可算だが、$Q$ は有限集合なので $\operatorname{Hom}(Q,\{0,1\})$ は有限である。定義で余極限の存在を仮定した理由である。
通常の関手 $H_0:\mathcal C_0^{\mathrm{op}}\times\mathcal C_0\to\mathcal D_0$ のコエンドが存在すれば、値域を $N(\mathcal D_0)$ とする∞圏のコエンドは通常のコエンドに一致する。一方、$\mathcal D_0=\mathbf{Set}$ の値を $\mathcal S$ に移して余極限を取る場合には、一般に一致しない。
通常のねじれ矢印圏で $1_c\to u$ と $1_d\to u$ を反対にすると、$H(d,c)\to H(c,c)$ と $H(d,c)\to H(d,d)$ が得られる。これらへの余錐が、通常のコエンドの余楔の等式を表す。値域が通常の圏の脈体なら写像空間は離散的であり、その余楔を表す通常の普遍対象が∞圏の普遍性も満たす。$\mathbf{Set}\to\mathcal S$ は一般の余極限を保たないため、後半を同じ議論では結論できない。
$P:\mathcal C^{\mathrm{op}}\to\mathcal S$ と $x\in\mathcal C$ に対し、
$$
\int^cP(c)\times\operatorname{Map}_{\mathcal C}(x,c)\simeq P(x).
$$
これは∞圏版の「Hom核による積分は評価になる」という公式である。混合分散の関手は $(a,b)\mapsto P(a)\times\operatorname{Map}_{\mathcal C}(x,b)$。
小さい∞圏 $\mathcal C,\mathcal A$ と対応する混合分散の関手 $H$ に対して、必要なコエンドが存在すれば
$$
\int^c\int^aH((c,a),(c,a))
\simeq\int^{(c,a)}H((c,a),(c,a))
\simeq\int^a\int^cH((c,a),(c,a)).
$$
Hau21 Proposition 2.21 の双対と§3の比較。
単体から積への写像は各成分への写像と同じなので、ねじれ矢印構成は積を保つ。その反対∞圏も積を保つ。従って三つのコエンドは、同じ積の添字に関する余極限を、一度に取るか各因子について順に取るかの違いに帰着する。余錐の普遍性はこの三つの計算で一致する。
Fubini則によってコエンド同士は交換できるが、エンドとコエンドを入れ替える一般則はない。
コエンドから対象 $T$ への写像空間はエンドで書ける。すなわち、コエンドが存在すれば
$$
\operatorname{Map}_{\mathcal D}\Bigl(\int^cH(c,c),T\Bigr)\simeq\int_c\operatorname{Map}_{\mathcal D}(H(c,c),T)
$$
であり、右辺は $\mathcal S$ で取るエンドで、混合分散の関手は $(c,d)\mapsto\operatorname{Map}_{\mathcal D}(H(d,c),T)$ である(エンド(∞圏)の命題「コエンドからの写像空間」。そこでは $H$ の二つの変数の順序を入れ替えた規約で述べている)。これはコエンドの普遍性をエンドの言葉で述べ直したもので、次の命題の証明に使う。
通常の小さい圏 $\mathcal C_0$ の脈体を添字とし、$H\colon N(\mathcal C_0)^{\mathrm{op}}\times N(\mathcal C_0)\to\mathcal S$ とする。連結成分の集合をとった集合値の関手を $\pi_0H$ と書くと、集合の自然な全単射
$$
\pi_0\int^cH(c,c)\cong\int^c\pi_0H(c,c)
$$
がある。右辺は集合の圏での通常のコエンドである。
集合 $D$ を離散空間とみる。Kan複体 $X$ について、$X\times\Delta^n$ から離散空間 $D$ への単体写像は連結成分ごとに定値なので、$\operatorname{Map}_{\mathcal S}(X,D)$ は集合 $\operatorname{Hom}(\pi_0X,D)$ を離散空間とみたものであり、これは $X$ と $D$ について自然である。
この事実を両辺に使う。左辺については
$$
\operatorname{Hom}\Bigl(\pi_0\int^cH(c,c),D\Bigr)\cong\operatorname{Map}_{\mathcal S}\Bigl(\int^cH(c,c),D\Bigr)\simeq\int_c\operatorname{Map}_{\mathcal S}(H(c,c),D)
$$
である(二つ目は上の写像空間の公式)。右端の混合分散の関手は $(c,d)\mapsto\operatorname{Hom}(\pi_0H(d,c),D)$ という離散空間値の関手で、添字は通常の圏の脈体である。値がすべて離散空間なので、この関手は離散空間が張る充満部分∞圏を経由し、それは集合の圏の脈体と同値だから(前層(∞圏)の命題「通常の前層との一致」の証明)、集合値の関手を離散空間とみたものと同値である。エンド(∞圏)の命題「通常の圏の脈体での一致」により、そのエンドは集合値の関手 $(c,d)\mapsto\operatorname{Hom}(\pi_0H(d,c),D)$ の通常のエンドを離散空間とみたものである。集合のコエンドの普遍性から、この通常のエンドは $\operatorname{Hom}\bigl(\int^c\pi_0H(c,c),D\bigr)$ に等しい。
以上で得た全単射 $\operatorname{Hom}(\pi_0\int^cH,D)\cong\operatorname{Hom}(\int^c\pi_0H,D)$ はどの段も $D$ について自然である。通常の米田の補題により、$\pi_0\int^cH(c,c)\cong\int^c\pi_0H(c,c)$ を得る。$\square$
エンドでは同じことが成り立たない。エンド(∞圏)の反例「連結成分をとってからエンドを計算すると答えが変わる」では、$[1]$ 上の $*\to S^1\leftarrow*$ のエンドの連結成分が $\mathbb Z$ で、集合のエンドは一点だった。証明が示すとおり、連結成分の集合は離散空間への写像空間で検出される。コエンドは写像の出発点の側に現れるのでこの検出が使えるが、エンドは行き先の側に現れるので使えない。一方、この命題はコエンドの基本群以上については何も言わない。群の添字の例では、連結成分は一致しても基本群 $G$ が残った。
| 外す条件 | 反例 | 成り立たなくなること |
|---|---|---|
| 値が離散な集合値の計算で足りる | $BG$ 上の一点への定値関手 | コエンドが軌道集合(離散空間)になる |
| 余極限の存在 | 有限集合の圏で $\mathbb N$ 添字の $\{0,1\}$ | コエンドが存在する |
| コエンドであること(エンドにする) | $[1]$ 上の $*\to S^1\leftarrow*$ のエンド | 連結成分との交換 |
単体的豊穣圏の表示を使って計算するときは、厳密なコエンドでなく、適切な重みの置換を使った導来コエンドと比較する。Hau21 Remark 4.7。局所Kanな単体的圏から準圏へはホモトピー整合的脈体で進む。HTT09 §§1.1.5, 2.2.5。
豊穣コエンド(コエンド(豊穣圏))としての $N\otimes_RM$ が、導来化によって $N\otimes_R^{\mathbb L}M$ になることは、この区別の代数的な例である。これは豊穣版のコエンドの導来化であり、本記事の添字構成($N(BR)$ を添字とする空間的コエンド)の例ではない。加群の分解に由来する高次の情報を残す点で、安定∞圏・導来圏への接続にも有効である。ただし一般の空間値コエンドを、単にアーベル群値のテンソル積と同一視するわけではない。
Mathpediaは寄付と、参考文献の書籍リンク(Amazonアソシエイト)の紹介料で運営されています。 支援について / 寄付する