Alhazenの問題

$\lvert z\rvert=1$ なので、$\bar z$ を掛けることは原点のまわりの回転で、直線 $Oz$ を実軸に移す（$z\bar z=1$。複素数の掛け算は回転と拡大）。$v$ を直線 $Oz$ で折り返すには、(i) $\bar z$ を掛けて直線を実軸に移し、(ii) 実軸で折り返し（共役をとる）、(iii) $z$ を掛けてもとにもどせばよい。$\bar z v\mapsto\overline{\bar zv}=z\bar v\mapsto z\cdot z\bar v=z^2\bar v$ である。$\square$

$\vec u_A$、$\vec u_B$ を表す複素数は $\dfrac{a-z}{\lvert a-z\rvert}$、$\dfrac{b-z}{\lvert b-z\rvert}$ である。lem-alh-mirror により、$P$ が反射点であることは
$$ \frac{b-z}{\lvert b-z\rvert}=z^2\cdot\frac{\overline{a-z}}{\lvert a-z\rvert} $$
と同じである。
段 1（反射点なら正の実数）。上の式から $b-z=t\,z^2\,\overline{a-z}$、$t=\dfrac{\lvert b-z\rvert}{\lvert a-z\rvert}>0$ である。これを $w(z)$ に代入すると、$z^2\bar z^2=\lvert z\rvert^4=1$ なので
$$ w(z)=(a-z)\cdot t\,z^2\,\overline{a-z}\cdot\bar z^2=t\lvert a-z\rvert^2>0 $$
である。
段 2（正の実数なら反射点）。$w=w(z)>0$ とする。$w=(a-z)(b-z)\bar z^2$ の両辺に $z^2\,\overline{a-z}$ を掛けると、$z^2\bar z^2=1$ だから $w\,z^2\,\overline{a-z}=\lvert a-z\rvert^2(b-z)$ で、
$$ b-z=\frac{w}{\lvert a-z\rvert^2}\,z^2\,\overline{a-z} $$
である。両辺の絶対値をとると $\lvert b-z\rvert=\dfrac{w}{\lvert a-z\rvert}$ なので、両辺を $\lvert b-z\rvert$ で割ると最初の式になる。$\square$

段 1（$w(z)$ を展開する）。$\lvert z\rvert=1$ なので $z\bar z=1$ である。
$$ w(z)=(a-z)(b-z)\bar z^2=\left(z^2-(a+b)z+ab\right)\bar z^2=1-(a+b)\bar z+ab\,\bar z^2 $$
である（$z^2\bar z^2=1$、$z\bar z^2=\bar z$ を使った）。
段 2（(1) の方程式）。$P$ が反射点なら、lem-alh-real により $w(z)$ は実数なので、$w(z)=\overline{w(z)}$ である。$\overline{w(z)}=1-\overline{(a+b)}\,z+\overline{ab}\,z^2$ だから
$$ -(a+b)\bar z+ab\,\bar z^2=-\overline{(a+b)}\,z+\overline{ab}\,z^2 $$
である。$\bar z=\dfrac1z$ を代入して両辺に $z^2$ を掛けると $-(a+b)z+ab=-\overline{(a+b)}\,z^3+\overline{ab}\,z^4$ となり、移項すると $Q(z)=0$ である。
段 3（$Q$ は $0$ でない）。$Q$ が $0$ の多項式なら、係数を比べて $ab=0$ かつ $a+b=0$ である。$ab=0$ なら $a=0$ か $b=0$ で、$a+b=0$ と合わせて $a=b=0$ となり、仮定に反する。また、$z$、$z^3$、$z^4$ の係数がすべて $0$ なら $ab=0$、$a+b=0$ で $Q$ は $0$ の多項式になるので、$Q$ は定数ではない。よって $Q$ の次数は $1$ 以上 $4$ 以下である。次数 $n$ の多項式の根は、複素数の範囲でも高々 $n$ 個である（根 $\alpha$ ごとに因数定理で $z-\alpha$ がくくり出せる。剰余の定理と因数定理）。よって反射点は高々 4 つである。
段 4（(2) の曲線）。$w(z)$ が実数であることは、段 1 の式の虚部 $\operatorname{Im}\left(ab\,\bar z^2-(a+b)\bar z\right)$ が $0$ であることと同じである。$\bar z=x-yi$、$\bar z^2=x^2-y^2-2xyi$ だから
$$ ab\,\bar z^2=(p+qi)\left(x^2-y^2-2xyi\right)\ \text{の虚部は}\ q\left(x^2-y^2\right)-2pxy $$
$$ (a+b)\bar z=(r+si)(x-yi)\ \text{の虚部は}\ sx-ry $$
である。差をとると $H$ の式になる。$\square$

記号：$\vec n=(\cos\theta,\sin\theta)$ は $P$ での外向きの単位法線ベクトル、$\vec\tau=(-\sin\theta,\cos\theta)$ は単位接線ベクトルである。$\vec u_A$、$\vec u_B$ は def-alh-reflect のベクトルである。
段 1（距離の微分）。$A=(a_1,a_2)$ とすると $PA^2=(\cos\theta-a_1)^2+(\sin\theta-a_2)^2$ である。両辺を $\theta$ で微分すると（連鎖律（高校数学））
$$ 2\,PA\cdot\frac{d}{d\theta}PA=2(\cos\theta-a_1)(-\sin\theta)+2(\sin\theta-a_2)\cos\theta=2\,\overrightarrow{AP}\cdot\vec\tau $$
で、$PA>0$ だから $\dfrac{d}{d\theta}PA=\dfrac{\overrightarrow{AP}}{PA}\cdot\vec\tau=-\vec u_A\cdot\vec\tau$ である。$B$ についても同じなので
$$ f'(\theta)=-\left(\vec u_A+\vec u_B\right)\cdot\vec\tau $$
である。つまり $f'(\theta)=0$ は「$\vec u_A+\vec u_B$ の接線方向の成分が $0$」、言いかえると「$\vec u_A+\vec u_B$ は $\vec n$ の実数倍」ということである。
段 2（折り返しの式）。直線 $OP$（向き $\vec n$）に関する折り返しは、$\vec n$ 方向の成分を保ち、$\vec\tau$ 方向の成分の符号を変える。したがって $\vec u_A$ を $OP$ で折り返したベクトルは $2(\vec u_A\cdot\vec n)\vec n-\vec u_A$ である。
段 3（(1) ⇒ (2)）。$\vec u_B=2(\vec u_A\cdot\vec n)\vec n-\vec u_A$ なら、$\vec u_A+\vec u_B=2(\vec u_A\cdot\vec n)\vec n$ は $\vec n$ の実数倍なので、段 1 から $f'(\theta)=0$ である。
段 4（(2) ⇒ (1)）。$f'(\theta)=0$ なら、段 1 から $\vec u_A+\vec u_B=\lambda\vec n$ となる実数 $\lambda$ がある。もし $\lambda=0$ なら $\vec u_B=-\vec u_A$ で、$A$ と $B$ は $P$ から見て反対の向きにあるので、$P$ は線分 $AB$ の上にある。これは仮定に反するので $\lambda\ne0$ である。$\vec u_B=\lambda\vec n-\vec u_A$ の長さが $1$ なので
$$ 1=\lvert\lambda\vec n-\vec u_A\rvert^2=\lambda^2-2\lambda(\vec u_A\cdot\vec n)+1 $$
で、$\lambda(\lambda-2\vec u_A\cdot\vec n)=0$、$\lambda\ne0$ から $\lambda=2(\vec u_A\cdot\vec n)$ である。よって $\vec u_B=2(\vec u_A\cdot\vec n)\vec n-\vec u_A$ で、段 2 により $P$ は反射点である。
段 5（(1) ⇔ (3)）。$P$ は線分 $AB$ の上にないので $PA+PB>AB$ で、$E=\{X\mid XA+XB=PA+PB\}$ は $A$、$B$ を焦点とし $P$ を通る楕円である。2次曲線の接線と光学的性質 の定理「楕円の反射の性質」により、$A$ から出て $P$ に向かう光は、$E$ の $P$ での接線 $m$ を鏡として反射し $B$ に向かう。$m$ に関する折り返しの符号を変えたものは $m$ に垂直な直線 $m'$ に関する折り返しなので、これは「$\vec u_B$ は $\vec u_A$ を直線 $m'$（$E$ の $P$ での法線）で折り返したもの」ということである。$\vec u_A+\vec u_B\ne\vec 0$ なので、この折り返しの軸は $\vec u_A+\vec u_B$ の向きの直線に限られる（折り返しで動かないベクトル $\vec u_A+\vec u_B$ が軸の上にある）。したがって、(1)「軸が $OP$」は「$E$ の $P$ での法線が $OP$」と同値であり、これは「$E$ の $P$ での接線が $OP$ に垂直」、つまり「$E$ と $C$ の $P$ での接線が一致する」ことと同値である。$\square$

段 1（最大と最小）。$f$ は連続なので、閉区間 $[0,2\pi]$ で最大値と最小値をとる（関数の増減と極値 の定理「最大・最小をとる点の候補」）。$f$ は周期 $2\pi$ なので、これは実数全体での最大値・最小値である。最大値をとる点 $\theta_1$ は、区間 $[\theta_1-\pi,\theta_1+\pi]$ の内部の点で、そこでも最大なので、関数の増減と極値 の定理「極値の点での微分係数（Fermat の定理）」により $f'(\theta_1)=0$ である。最小値をとる点 $\theta_2$ でも同じく $f'(\theta_2)=0$ である。
段 2（反射点になる）。$A=B$ のときは、$\vec u_A=\vec u_B$ なので、反射点は $\vec u_A$ を $OP$ で折り返しても変わらない点、つまり $\vec u_A$ が直線 $OP$ に平行で、$P$ が直線 $OA$ の上にある点である（$A\ne O$）。この場合は円と直線 $OA$ の 2 つの交点がちょうど反射点で、個数は 2 である。$f=2PA$ は、この 2 点のうち $A$ に近い方で最小、遠い方で最大になる（$\lvert OP-OA\rvert\le PA\le OP+OA$ で、等号はそれぞれの点で成り立つ）。以下 $A\ne B$ とする。円の内部は凸なので、線分 $AB$ は円の内部にあり、円周の点 $P$ は線分 $AB$ の上にない。thm-alh-ellipse により、$\theta_1$、$\theta_2$ の点は反射点である。
段 3（2 つは異なる）。もし最大値と最小値が等しければ $f$ は定数で、すべての $\theta$ で $f'(\theta)=0$ となり、thm-alh-ellipse により円周のすべての点が反射点になる。これは thm-alh-quartic（反射点は高々 4 つ）に反する。よって最大点と最小点は異なる点で、反射点は 2 つ以上ある。4 つ以下であることは thm-alh-quartic による。$\square$