Bretschneiderの公式

1 辺が $1$ の正方形の面積は $1$ である。1 辺が $1$ で 1 つの角が $60^\circ$ のひし形の面積は、底辺 $1$、高さ $\sin60^\circ=\dfrac{\sqrt3}2$ の平行四辺形として $\dfrac{\sqrt3}2\fallingdotseq0.866$ である。4 辺の長さはどちらも $1,1,1,1$ なので、4 辺だけでは面積は決まらない（Heronの公式 の反例と同じ例）。
違いは対角線に現れる。正方形の対角線は 2 本とも $\sqrt2$ である。ひし形の対角線は、$60^\circ$ の角をはさむ 2 辺と短い対角線が正三角形をつくるので短い方が $1$、長い方は 2 つの正三角形の高さの和で $2\cdot\dfrac{\sqrt3}2=\sqrt3$ である。

$A(0,0)$、$B(4,0)$、$C(5,3)$、$D(1,4)$ を頂点とする四角形 $ABCD$ を考える（図 1）。
(1) 面積を直接求める。対角線 $AC$ で 2 つの三角形に分ける。$\overrightarrow{AB}=(4,0)$、$\overrightarrow{AC}=(5,3)$、$\overrightarrow{AD}=(1,4)$ で、三角形の面積の公式 $\dfrac12\lvert x_1y_2-x_2y_1\rvert$（ベクトルの内積（高校数学））より
$$ \triangle ABC=\frac12\lvert4\cdot3-0\cdot5\rvert=6,\qquad\triangle ACD=\frac12\lvert5\cdot4-3\cdot1\rvert=\frac{17}2 $$
なので、面積は $K=6+\dfrac{17}2=\dfrac{29}2$ である。
(2) 辺と対角線の長さの 2 乗を求める。辺は
$$ a^2=AB^2=16,\quad b^2=BC^2=1+9=10,\quad c^2=CD^2=16+1=17,\quad d^2=DA^2=1+16=17 $$
で、対角線は $p^2=AC^2=25+9=34$、$q^2=BD^2=9+16=25$ である。
(3) 次の式に代入してみる。
$$ 4p^2q^2-(b^2+d^2-a^2-c^2)^2=4\cdot34\cdot25-(10+17-16-17)^2=3400-36=3364=58^2 $$
一方、$16K^2=16\cdot\dfrac{841}4=3364$ で、2 つは一致する。つまり $4K=58$、$K=\dfrac{29}2$ が、辺と対角線の長さだけから求まった。

$\vec u=\overrightarrow{AC}=(5,3)$、$\vec v=\overrightarrow{AB}=(4,0)$、$\vec w=\overrightarrow{AD}=(1,4)$（ex-bre-start の四角形）とする。$\det(\vec u,\vec v)$ と $\det(\vec u,\vec w)$ の符号は反対になる。

図 2 の四角形 $A(0,0)$、$B(4,0)$、$C(1,1)$、$D(0,4)$ で確かめる。
(1) 面積。内部を通る対角線 $AC$ で分けると、$\triangle ABC=\dfrac12\lvert\det((4,0),(1,1))\rvert=\dfrac12\lvert4\rvert=2$、$\triangle ACD=\dfrac12\lvert\det((1,1),(0,4))\rvert=\dfrac12\lvert4\rvert=2$ で、$K=4$ である。
(2) 公式。$a^2=16$、$b^2=(1-4)^2+1^2=10$、$c^2=1^2+3^2=10$、$d^2=16$、$p^2=2$、$q^2=16+16=32$ なので
$$ 4p^2q^2-(b^2+d^2-a^2-c^2)^2=4\cdot2\cdot32-(10+16-16-10)^2=256 $$
で、$16K^2=16\cdot16=256$ と一致する。対角線 $BD$ は四角形の外を通るが、公式は成り立つ。

1. 図 2 の四角形では $a^2+c^2=16+10=26$、$b^2+d^2=10+16=26$ で等しいので、対角線は直交する（実際 $\overrightarrow{AC}\cdot\overrightarrow{BD}=(1,1)\cdot(-4,4)=0$）。面積は $\dfrac12pq=\dfrac12\sqrt2\cdot4\sqrt2=4$ で、ex-bre-concave と一致する。
2. Brahmaguptaの定理（直交対角線） の半径 $25$ の例 $A(-24,7)$、$B(15,20)$、$C(24,7)$、$D(15,-20)$ では、$a^2+c^2=1690+810=2500$、$b^2+d^2=250+2250=2500$ である。対角線は $p=48$、$q=40$ で、面積は $\dfrac12\cdot48\cdot40=960$ である。靴ひも公式でも $\dfrac12\lvert-585-375-585-375\rvert=960$ となる。

$D=A$ とおくと、$d=0$、$q=BA=a$、$c=CA=p$ である。lem-bre-dot と lem-bre-lagrange は 4 点が重なっていても成り立ち、$\left\lvert\det\left(\overrightarrow{AC},\overrightarrow{BA}\right)\right\rvert=\left\lvert\det\left(\overrightarrow{AB},\overrightarrow{AC}\right)\right\rvert$ は三角形 $ABC$ の面積 $S$ の $2$ 倍である。したがって prf-bre-main と同じ計算で
$$ 16S^2=4p^2a^2-(b^2-a^2-p^2)^2=4a^2p^2-(a^2+p^2-b^2)^2 $$
を得る。これは 3 辺 $a$、$b$、$p$ の三角形の面積の式で、Heronの公式とCayley–Menger行列式 の定理「面積の 2 乗の 2 次の行列式による表示」と同じ形である。3 辺 $3$、$5$、$4$（$a=3$、$b=5$、$p=4$）なら $16S^2=4\cdot9\cdot16-(9+16-25)^2=576$、$S=6$ で、直角三角形の面積 $\dfrac12\cdot3\cdot4=6$ と一致する。

1. 4 辺だけ。ex-bre-start-rhombus の正方形とひし形は、4 辺がどちらも $1,1,1,1$ だが、対角線は $\sqrt2,\sqrt2$ と $\sqrt3,1$ で違う。thm-bre-main に代入すると、どちらも $b^2+d^2-a^2-c^2=0$ で、正方形は $16K^2=4\cdot2\cdot2=16$、$K=1$、ひし形は $16K^2=4\cdot3\cdot1=12$、$K=\dfrac{\sqrt3}2$ である。面積の違いは、対角線の長さの違いから来ている。
2. 対角線だけ。1 辺 $1$ の正方形と、辺が $\dfrac75$、$\dfrac15$ の長方形は、対角線がどちらも $\sqrt{\dfrac{49}{25}+\dfrac1{25}}=\sqrt2$ である。長方形の面積は $\dfrac75\cdot\dfrac15=\dfrac7{25}$ で、正方形の $1$ と違う。thm-bre-main では、長方形は $a=c=\dfrac75$、$b=d=\dfrac15$ で
   $$ 16K^2=4\cdot2\cdot2-\left(\frac2{25}-\frac{98}{25}\right)^2=16-\frac{9216}{625}=\frac{784}{625} $$
   となり、$4K=\dfrac{28}{25}$、$K=\dfrac7{25}$ である。辺の長さの項 $(b^2+d^2-a^2-c^2)^2$ が、対角線のなす角の情報（$\cos\varphi$）を運んでいる。

$A(0,0)$、$B(2,2)$、$C(2,0)$、$D(0,2)$ を順に結ぶと、辺 $AB$ と $CD$ が点 $(1,1)$ で交わる（図 3）。囲まれた部分は、面積 $1$ の三角形 2 つで、合わせて $2$ である。
一方、$a^2=8$、$b^2=4$、$c^2=8$、$d^2=4$、$p^2=AC^2=4$、$q^2=BD^2=4$ なので
$$ 4p^2q^2-(b^2+d^2-a^2-c^2)^2=4\cdot4\cdot4-(4+4-8-8)^2=64-64=0 $$
で、式の値は $0$ である。$\det\left(\overrightarrow{AC},\overrightarrow{BD}\right)=\det\bigl((2,0),(-2,0)\bigr)=0$ でもある。
lem-bre-area の証明の段 2 で使った「内部を通る対角線で 2 つの三角形に分ける」ができないのが原因である。この場合、$\det\left(\overrightarrow{AC},\overrightarrow{BD}\right)$ は靴ひもの和の 2 倍（周をたどる向きで符号をつけた面積の和）に等しく、左の三角形 $+1$ と右の三角形 $-1$ が打ち消し合って $0$ になる（靴ひも公式 の反例「辺が交差すると輪ごとに符号がつく」）。