エンド(豊穣圏)

同義語：豊穣エンド

概要

定義

基礎圏 $\mathcal V$ は局所小で完備な対称モノイダル閉圏とする。テンソル積を $\otimes$、単位を $I$、内部Homを $[U,V]$ と書く。「閉」とは、自然な全単射
$$\operatorname{Hom}_{\mathcal V}(T\otimes U,V)\cong\operatorname{Hom}_{\mathcal V}(T,[U,V])$$
があることをいう。例は $\mathbf{Set}$ の直積、$\mathbf{Ab}$ の $\otimes_{\mathbb Z}$、単体的集合の直積である。

豊穣圏と混合分散の関手

$\mathcal V$ 上の豊穣圏（$\mathcal V$-豊穣圏）$\mathcal A$ は、対象とHom対象 $\mathcal A(a,b)\in\mathcal V$、結合的な合成
$$\mathcal A(b,c)\otimes\mathcal A(a,b)\to\mathcal A(a,c)$$
および単位 $I\to\mathcal A(a,a)$ を持つ。対象が小さい集合をなすとき小さい豊穣圏という。台となる通常の圏の射集合は $\operatorname{Hom}_{\mathcal V}(I,\mathcal A(a,b))$ である。
豊穣関手（関手(豊穣圏)）$H:\mathcal A^{\mathrm{op}}\otimes\mathcal A\to\mathcal V$ は対象 $H(a,b)$ を割り当て、第1変数に反変、第2変数に共変な作用を持つ。二つの作用は合成・単位を保ち、互いに可換する。例えば $\mathcal A(a,b)\otimes H(a,a)\to H(a,b)$ と $\mathcal A(a,b)\otimes H(b,b)\to H(a,b)$ が得られる。

反対圏の合成と二つの作用の並べ替えには対称性を用いる。以下 $\mathcal A$ は小さいとする。必要な準備と次の定義は Kel82 §§1.1–1.6, 2.1 に対応する。

豊穣エンド

$\mathcal V$ に値を取る $H$ の豊穣エンドは
$$ \int_a H(a,a)= \operatorname{Eq}\left( \prod_aH(a,a)\rightrightarrows \prod_{a,b}[\mathcal A(a,b),H(a,b)] \right) $$
である。右辺は $\mathcal V$ の積(圏論)の間の二射の等化子で、二本の射はそれぞれ、$a$ 成分に共変作用を、$b$ 成分に反変作用を施し、内部Homへの随伴転置を取って得る。
同値に、任意の $T\in\mathcal V$ からこの対象への射は、$\alpha_a:T\to H(a,a)$ の族で、$\mathcal A(a,b)\otimes T\to H(a,b)$ への二つの作用による合成が一致するものと一対一に対応する。

ここでは通常の射 $I\to\mathcal A(a,b)$ だけを代入して条件を調べるのでなく、Hom対象全体とのテンソル積からの射を比較する。

直感

普通のエンドは整合する元の集合を取り出す。豊穣エンドは、それをアーベル群・単体的集合などの構造を持つ対象として取り出す。積分記号が消去するのは対象の添字だけではなく、Hom対象を介した両側の作用も含む。
従って、豊穣圏の台となる通常の圏に移って普通のエンドを取れば、いつでも同じ答えが得られるとは限らない。基礎圏が $\mathbf{Set}$ である場合には、内部Homが関数集合となり、定義は通常のエンドに一致する。

例

豊穣自然変換対象

豊穣関手 $F,G:\mathcal A\to\mathcal B$ に対して、必要な小さいエンドが基礎圏に存在すれば
$$[\mathcal A,\mathcal B](F,G)=\int_a\mathcal B(F(a),G(a))$$
が自然変換対象になる。$I$ からこの対象への射が豊穣自然変換（自然変換(豊穣圏)）である。より一般に $T$ からの射は、$T$ でパラメータ付けされた自然変換を表す。Kel82 §2.2。

環と可換な元

$\mathcal V=\mathbf{Ab}$ とする。一対象豊穣圏のHomは単位的環 $R$ であり、$H$ は $R$-両側加群 $M$ を指定する。共変作用を左作用、反変作用を右作用とすると、
$$\int_aH(a,a)=\{m\in M\mid rm=mr\text{ for every }r\in R\}.$$
特に $M=R$ なら環の中心の加法群を得る。

単体的な自然変換

$\mathcal V=\mathrm{sSet}$ では内部Homは単体的写像対象である。自然変換対象の $n$-単体は $\Delta^n\to[\mathcal A,\mathcal B](F,G)$、すなわち族 $\alpha_a\colon\Delta^n\to\mathcal B(Fa,Ga)$ であって、各 $a,b$ について $\Delta^n\times\mathcal A(a,b)$ 上で自然性を満たすもの、つまり $\Delta^n\times\mathcal A(a,b)\to\mathcal B(Fa,Gb)$ への二つの合成（$\alpha_b$ の後に $F$ の作用を施すものと、$G$ の作用の後に $\alpha_a$ を施すもの）が一致するものである。これはまず厳密な豊穣自然変換の単体的集合を定義する。

反例：単位対象からの元だけで同型を判定しない

$\mathbf{Set}$ では写像が全単射なら同型である。しかし $\mathrm{sSet}$ の射が頂点に全単射でも同型とは限らない。例えば $\Delta^0\to BG$（非自明な群 $G$ の一対象亜群、すなわち群 $G$ の分類空間の脈体）は頂点に全単射だが、1単体や高次単体が違う。従って、$I$ からの射の集合の一致だけでは豊穣対象の同型を証明できない。

性質

パラメータを保つ普遍性

定義の等化子は、すべての $T$ に対して豊穣楔を表現する。ここで $T$ を頂点とする豊穣楔とは、射の族 $\alpha_a\colon T\to H(a,a)$ であって、二つの作用による $\mathcal A(a,b)\otimes T\to H(a,b)$ への合成が一致するものをいう。内部Homはエンドと可換し、
$$[T,\int_aH(a,a)]\cong\int_a[T,H(a,a)]$$
となる。Kel82 §2.1、式(2.2)–(2.3)。

等化子と閉構造

$T$ から積への射は $\alpha_a$ の族である。等化子の二本の射との合成が一致することは、随伴転置により、$\mathcal A(a,b)\otimes T$ からの二本の射が一致することと同じになる。これで普遍性が従う。後半は $[T,-]$ が右随伴（随伴関手）なので積と等化子を保ち、閉構造と対称性により $[T,[U,V]\!]\cong[U,[T,V]\!]$ となることから従う。

環の例の計算

定義の二本の射は $M\rightrightarrows[R,M]$、すなわち $m$ をそれぞれ $(r\mapsto rm)$ と $(r\mapsto mr)$ に送る加法準同型である。その等化子は両者が等しい $m$ の部分群になる。条件は加法と符号変更で保たれるため、集合だけでなくアーベル群として上の表示を得る。

一般の豊穣圏に値を取る場合

値域が $\mathcal V$ でなく $\mathcal V$-豊穣圏 $\mathcal B$ の場合は、豊穣エンド $E$ と射の族が
$$ \mathcal B(T,E)\cong\int_a\mathcal B(T,H(a,a)) $$
という $T$ に豊穣自然な $\mathcal V$ 内の同型を与えることを普遍性とする。右辺は既に定義した $\mathcal V$ 値のエンドである。$\mathcal B$ に必要な余テンソルと豊穣的な積・等化子があれば構成できる。余テンソル $U\pitchfork X$ とは $\mathcal B(T,U\pitchfork X)\cong[U,\mathcal B(T,X)]$ を表す対象である。Kel82 §3.10。
Fubini型の同型も成立する。二つの小さい豊穣添字圏に関するエンドは、必要なエンドが存在すれば順序を交換できる。パラメータ $T$ に対する二種類の豊穣自然性条件が可換するためである。Kel82 §2.1。

∞圏への接続：厳密なエンドと導来エンド

単体的豊穣圏 $\mathcal A$ の各HomがKan複体であれば、ホモトピー整合的脈体が準圏を与える。このときも厳密な豊穣エンドが自動的に∞圏のエンドになるわけではない。厳密な等式を要求する自然性と、すべての高次ホモトピーを含む自然性は違う。
∞圏のエンドを計算するには、対応する重み付き極限（重み付き極限(豊穣圏)）をホモトピー不変にした導来計算を行う。特にHom重みを適切にcofibrant置換して計算する説明が Hau21 Remark 4.7 にある。置換とbar・cobar構成による一般的な方法は Rie14 §9.2 に述べられる。
単体的モデル圏のcofibrant–fibrant対象から得る豊穣圏と、弱同値を指定した圏の単体的局所化から得る表示は、そのための異なる入口である。後者は必要に応じて局所Kanな表示へ置換する。どの表示でも、未置換の厳密Homと導来写像空間を同一視しない。準圏との接続は HTT09 §§1.1.5, 2.2.5 を参照する。