相関係数(高校数学)では、2 つの変量の組 $(x_i,y_i)$($i=1,\dots,n$)の相関係数、すなわち共分散 $s_{xy}$ を標準偏差の積で割った値 $r=\frac{s_{xy}}{s_xs_y}$($s_x,s_y>0$)を扱う。データを $\mathbb{R}^n$ のベクトルとみると、分散は偏差ベクトルの長さの 2 乗、共分散は偏差ベクトルどうしの内積で、$r$ は 2 つの偏差ベクトルのなす角の余弦である。Cauchy–Schwarz の不等式により $-1\le r\le1$ であり、$r=\pm1$ となるのはすべての $i$ で $y_i=\alpha+\beta x_i$($\beta$ の符号が $r$ の符号)となるときに限る。$r=0$ でも 2 つの変量が無関係とは限らない。
2 つの変量の組 $(x_1,y_1),(x_2,y_2),\dots,(x_n,y_n)$ を考える。平均値を $\bar x,\bar y$、標準偏差を $s_x,s_y$ とする。高校では、2 つの変量の関係の強さを表す量として次の 2 つを習う。
$\boldsymbol x=(1,2,3,4,5)$、$\boldsymbol y=(1,3,2,5,4)$ とする。$\bar x=\bar y=3$ である。
| $i$ | 1 | 2 | 3 | 4 | 5 |
|---|---|---|---|---|---|
| $x_i-\bar x$ | $-2$ | $-1$ | $0$ | $1$ | $2$ |
| $y_i-\bar y$ | $-2$ | $0$ | $-1$ | $2$ | $1$ |
| 積 | $4$ | $0$ | $0$ | $2$ | $2$ |
$\boldsymbol x=(1,2,3)$、$\boldsymbol y=(2,4,6)$($y_i=2x_i$)では、偏差は $(-1,0,1)$ と $(-2,0,2)$ である。$s_x^2=\frac23$、$s_y^2=\frac83$、$s_{xy}=\frac{2+0+2}3=\frac43$ なので、$r=\frac{4/3}{\sqrt{2/3}\sqrt{8/3}}=\frac{4/3}{4/3}=1$ である。
$\boldsymbol y=(5,3,1)$($y_i=7-2x_i$)では、$y$ の偏差は $(2,0,-2)$ で、$s_{xy}=\frac{-2+0-2}3=-\frac43$ なので $r=-1$ である。
図1:散布図と相関係数。左から r = 0.8、y = 2x(r = 1)、y = 7 − 2x(r = −1)、y = x²(r = 0)。破線は平均値の位置。
ここで次の問いが生じる。
| 高校の計算 | この記事の言葉 | 大学の言葉 |
|---|---|---|
| 偏差 $x_i-\bar x$ を並べたもの | 偏差ベクトル $\boldsymbol x-\bar x\boldsymbol 1$ | $\mathbb{R}^n$ のベクトル |
| 分散 $s_x^2$ | 偏差ベクトルの長さの 2 乗 | ノルムの 2 乗 |
| 共分散 $s_{xy}$ | 2 つの偏差ベクトルの内積 | 内積 |
| 相関係数 $r$ | 2 つの偏差ベクトルのなす角の余弦 | 角の余弦 |
| $-1\le r\le1$ | thm-crr-cs | Cauchy–Schwarz の不等式 |
| 分散の公式 $s^2=\overline{x^2}-\bar x^2$ | prop-crr-projection | 正射影とピタゴラスの定理 |
$n$ 個のデータ $x_1,\dots,x_n$ を、$\mathbb{R}^n$ のベクトル $\boldsymbol x=(x_1,\dots,x_n)$ とみる。2 つのベクトル $\boldsymbol x,\boldsymbol y$ に対して
$$
\langle\boldsymbol x,\boldsymbol y\rangle:=\frac1n\sum_{i=1}^nx_iy_i,\qquad\|\boldsymbol x\|:=\sqrt{\langle\boldsymbol x,\boldsymbol x\rangle}
$$
と定め、$\langle\boldsymbol x,\boldsymbol y\rangle$ を内積、$\|\boldsymbol x\|$ を長さという。すべての成分が $1$ のベクトルを $\boldsymbol 1:=(1,\dots,1)$ と書く。$\langle\boldsymbol x,\boldsymbol y\rangle=0$ のとき、$\boldsymbol x$ と $\boldsymbol y$ は直交するという。
これは、高校で習う内積(成分の積の和)を $\frac1n$ 倍したものである。$\frac1n$ を掛けておくと、平均値が $\bar x=\langle\boldsymbol x,\boldsymbol 1\rangle$ と書け、$\|\boldsymbol 1\|=1$ となる。この内積は、高校の内積と同じ次の性質をもつ。
偏差ベクトルを $\boldsymbol u:=\boldsymbol x-\bar x\boldsymbol 1=(x_1-\bar x,\dots,x_n-\bar x)$、$\boldsymbol v:=\boldsymbol y-\bar y\boldsymbol 1$ とすると
$$
s_x^2=\|\boldsymbol u\|^2,\qquad s_y^2=\|\boldsymbol v\|^2,\qquad s_{xy}=\langle\boldsymbol u,\boldsymbol v\rangle
$$
である。したがって $s_x,s_y>0$ のとき $r=\frac{\langle\boldsymbol u,\boldsymbol v\rangle}{\|\boldsymbol u\|\|\boldsymbol v\|}$ である。
$\boldsymbol u$ の第 $i$ 成分は $x_i-\bar x$ なので、内積の定義から $\|\boldsymbol u\|^2=\frac1n\sum_{i=1}^n(x_i-\bar x)^2$ であり、これは分散 $s_x^2$ の定義そのものである。$s_y^2$ も同じである。$\langle\boldsymbol u,\boldsymbol v\rangle=\frac1n\sum_{i=1}^n(x_i-\bar x)(y_i-\bar y)$ は共分散 $s_{xy}$ の定義そのものである。$s_x=\|\boldsymbol u\|$、$s_y=\|\boldsymbol v\|$ を $r$ の定義に代入すれば最後の式を得る。$\square$
偏差ベクトルには、次の図形的な性質がある。
$\langle\boldsymbol x-\bar x\boldsymbol 1,\ \boldsymbol 1\rangle=0$ である。さらに
$$
\|\boldsymbol x\|^2=\|\boldsymbol x-\bar x\boldsymbol 1\|^2+\|\bar x\boldsymbol 1\|^2
$$
が成り立つ。これは $s^2=\overline{x^2}-\bar x^2$ を書き直したものである。
段 1。線形性により $\langle\boldsymbol x-\bar x\boldsymbol 1,\boldsymbol 1\rangle=\langle\boldsymbol x,\boldsymbol 1\rangle-\bar x\langle\boldsymbol 1,\boldsymbol 1\rangle$ である。$\langle\boldsymbol x,\boldsymbol 1\rangle=\bar x$、$\langle\boldsymbol 1,\boldsymbol 1\rangle=1$ なので、これは $\bar x-\bar x=0$ である。
段 2。$\boldsymbol a:=\boldsymbol x-\bar x\boldsymbol 1$、$\boldsymbol b:=\bar x\boldsymbol 1$ とおくと $\boldsymbol x=\boldsymbol a+\boldsymbol b$ である。線形性と対称性で展開すると
$$
\|\boldsymbol x\|^2=\langle\boldsymbol a+\boldsymbol b,\boldsymbol a+\boldsymbol b\rangle=\|\boldsymbol a\|^2+2\langle\boldsymbol a,\boldsymbol b\rangle+\|\boldsymbol b\|^2
$$
である。段 1 から $\langle\boldsymbol a,\boldsymbol b\rangle=\bar x\langle\boldsymbol a,\boldsymbol 1\rangle=0$ なので、真ん中の項は消える。
段 3。$\|\boldsymbol x\|^2=\overline{x^2}$、$\|\boldsymbol a\|^2=s^2$、$\|\boldsymbol b\|^2=\bar x^2\|\boldsymbol 1\|^2=\bar x^2$ なので、段 2 の式は $\overline{x^2}=s^2+\bar x^2$ である。$\square$
$\bar x\boldsymbol 1$ は、定数ベクトルの直線 $\{a\boldsymbol 1 : a\in\mathbb{R}\}$ の上で $\boldsymbol x$ に最も近い点(正射影)である。平均値と二乗誤差 の記事で示した「平均値はずれの 2 乗の和を最小にする」は、この直角三角形の性質を言い換えたものである。
$n=2$、$\boldsymbol x=(1,3)$ では $\bar x=2$ で、偏差ベクトルは $(1,3)-(2,2)=(-1,1)$ である。
図2:x = (1, 3) を、定数方向の成分 (2, 2) と偏差 (−1, 1) に分ける。2 つは直交し、直角三角形ができる。
関数の値の積を積分して関数どうしの内積を定める話は 積分で定める内積 で扱う。
すべての $\boldsymbol u,\boldsymbol v\in\mathbb{R}^n$ について
$$
|\langle\boldsymbol u,\boldsymbol v\rangle|\le\|\boldsymbol u\|\,\|\boldsymbol v\|
$$
が成り立つ。$\boldsymbol v\ne\boldsymbol 0$ のとき、等号が成り立つのは $\boldsymbol u=t\boldsymbol v$ となる実数 $t$ があるときであり、そのときに限る。
方針:$t$ の関数 $f(t):=\|\boldsymbol u-t\boldsymbol v\|^2$ は $0$ 以上の値しかとらない 2 次関数なので、判別式が $0$ 以下になる。
段 1($\boldsymbol v=\boldsymbol 0$ の場合)。$\langle\boldsymbol u,\boldsymbol 0\rangle=\frac1n\sum u_i\cdot0=0$、$\|\boldsymbol 0\|=0$ なので、両辺とも $0$ で不等式は成り立つ。以下 $\boldsymbol v\ne\boldsymbol 0$ とする。正定値性により $\|\boldsymbol v\|^2>0$ である。
段 2(展開)。線形性と対称性で展開すると
$$
f(t)=\langle\boldsymbol u-t\boldsymbol v,\boldsymbol u-t\boldsymbol v\rangle=\|\boldsymbol v\|^2t^2-2\langle\boldsymbol u,\boldsymbol v\rangle t+\|\boldsymbol u\|^2
$$
である。$t^2$ の係数 $\|\boldsymbol v\|^2$ は正なので、$f$ は下に凸な 2 次関数である。
段 3(判別式)。正定値性により、すべての実数 $t$ で $f(t)\ge0$ である。もし判別式が正なら、$f(t)=0$ は異なる 2 つの実数解をもち、その間で $f(t)<0$ となってしまう。よって判別式は $0$ 以下である。$f(t)=at^2+2b't+c$ の形で $a=\|\boldsymbol v\|^2$、$b'=-\langle\boldsymbol u,\boldsymbol v\rangle$、$c=\|\boldsymbol u\|^2$ なので、判別式の $\frac14$ は $b'^2-ac$ であり
$$
\langle\boldsymbol u,\boldsymbol v\rangle^2-\|\boldsymbol u\|^2\|\boldsymbol v\|^2\le0
$$
である。
段 4(平方根)。$\langle\boldsymbol u,\boldsymbol v\rangle^2\le\bigl(\|\boldsymbol u\|\|\boldsymbol v\|\bigr)^2$ で、両辺の平方根をとると(右辺の $\|\boldsymbol u\|\|\boldsymbol v\|$ は $0$ 以上)$|\langle\boldsymbol u,\boldsymbol v\rangle|\le\|\boldsymbol u\|\|\boldsymbol v\|$ を得る。
段 5(等号)。等号が成り立つとすると判別式は $0$ で、$f$ は $t_0:=\frac{\langle\boldsymbol u,\boldsymbol v\rangle}{\|\boldsymbol v\|^2}$(頂点)で $f(t_0)=0$ となる。$\|\boldsymbol u-t_0\boldsymbol v\|^2=0$ なので、正定値性により $\boldsymbol u=t_0\boldsymbol v$ である。逆に $\boldsymbol u=t\boldsymbol v$ なら、$|\langle t\boldsymbol v,\boldsymbol v\rangle|=|t|\|\boldsymbol v\|^2$、$\|t\boldsymbol v\|\|\boldsymbol v\|=|t|\|\boldsymbol v\|\cdot\|\boldsymbol v\|$ で、等号が成り立つ。$\square$
$s_x>0$、$s_y>0$ とする。$-1\le r\le1$ である。さらに、$r=1$ となるのは、実数 $\alpha$ と正の実数 $\beta$ があってすべての $i$ で $y_i=\alpha+\beta x_i$ となるときに限る。$r=-1$ となるのは、同じ式が負の $\beta$ で成り立つときに限る。
段 1。$\boldsymbol u:=\boldsymbol y-\bar y\boldsymbol 1$、$\boldsymbol v:=\boldsymbol x-\bar x\boldsymbol 1$ とする。$\|\boldsymbol u\|=s_y>0$、$\|\boldsymbol v\|=s_x>0$ なので、どちらも $\boldsymbol 0$ でない。prop-crr-vector-form により $r=\frac{\langle\boldsymbol u,\boldsymbol v\rangle}{\|\boldsymbol u\|\|\boldsymbol v\|}$ である。
段 2。thm-crr-cs により $|\langle\boldsymbol u,\boldsymbol v\rangle|\le\|\boldsymbol u\|\|\boldsymbol v\|$ なので、両辺を正の数 $\|\boldsymbol u\|\|\boldsymbol v\|$ で割って $|r|\le1$ を得る。
段 3($|r|=1$ のとき)。$|r|=1$ は定理の等号なので、$\boldsymbol u=\beta\boldsymbol v$ となる実数 $\beta$ がある。$\boldsymbol u\ne\boldsymbol 0$ なので $\beta\ne0$ である。成分で書くと $y_i-\bar y=\beta(x_i-\bar x)$ で、$\alpha:=\bar y-\beta\bar x$ とおけば $y_i=\alpha+\beta x_i$ である。このとき
$$
r=\frac{\langle\beta\boldsymbol v,\boldsymbol v\rangle}{\|\beta\boldsymbol v\|\|\boldsymbol v\|}=\frac{\beta\|\boldsymbol v\|^2}{|\beta|\|\boldsymbol v\|^2}=\frac{\beta}{|\beta|}
$$
で、$\beta>0$ なら $r=1$、$\beta<0$ なら $r=-1$ である。
段 4(逆)。すべての $i$ で $y_i=\alpha+\beta x_i$($\beta\ne0$)とする。両辺の平均をとると $\bar y=\alpha+\beta\bar x$ なので、引き算して $y_i-\bar y=\beta(x_i-\bar x)$、すなわち $\boldsymbol u=\beta\boldsymbol v$ である。段 3 の計算から $r=\frac{\beta}{|\beta|}$ で、$\beta>0$ なら $1$、$\beta<0$ なら $-1$ である。$\square$
ex-crr-linear の $\boldsymbol y=(2,4,6)$ は $\alpha=0$、$\beta=2>0$ の場合で $r=1$、$\boldsymbol y=(5,3,1)$ は $\alpha=7$、$\beta=-2<0$ の場合で $r=-1$ である。ex-crr-first の $\boldsymbol y=(1,3,2,5,4)$ は $\boldsymbol x$ の 1 次式ではない(偏差 $(-2,0,-1,2,1)$ は $(-2,-1,0,1,2)$ の実数倍でない)ので、$|r|<1$ であり、実際 $r=0.8$ である。
判別式を使う Cauchy–Schwarz の不等式の証明と等号の条件は Cauchy–Schwarzの不等式(高校数学) で扱う。
$-1\le r\le1$ なので、$r=\cos\theta$ となる角 $\theta$($0\le\theta\le\pi$)がただ 1 つ定まる。これを 2 つの偏差ベクトルのなす角とみなすと、相関係数は角の余弦である。$r=1$ は同じ向き、$r=-1$ は逆向き、$r=0$ は直交を表す。高校の平面ベクトルで $\cos\theta=\frac{\vec a\cdot\vec b}{|\vec a||\vec b|}$ としたのと同じ式である。
ex-crr-first では $r=0.8$ なので、偏差ベクトルのなす角は $\theta=\arccos0.8=36.86\ldots^\circ$ である。ex-crr-linear の 2 つの場合は $\theta=0^\circ$ と $180^\circ$ である。
変量 $x$ を $x'_i=\alpha+\beta x_i$($\beta\ne0$)に変換すると、cor-crr-range の証明の段 4 と同じ計算で偏差ベクトルは $\beta$ 倍になる。したがって
| 外した仮定 | 崩れる主張 | ボックス |
|---|---|---|
| 関係が 1 次式である | $r=0$ なら 2 つの変量に関係がない | ex-crr-uncorrelated |
| $\vert r\vert=1$ ちょうど | $r$ が $1$ に近ければ 1 次式の関係がある | ex-crr-nearly-one |
| $s_x>0$ | 相関係数が定義できる | ex-crr-constant |
$\boldsymbol x=(-2,-1,0,1,2)$、$\boldsymbol y=(4,1,0,1,4)$ とすると、すべての $i$ で $y_i=x_i^2$ であり、$y$ は $x$ で完全に決まる。しかし $\bar x=0$、$\bar y=2$ で、偏差は $(-2,-1,0,1,2)$ と $(2,-1,-2,-1,2)$ なので
$$
s_{xy}=\frac{-4+1+0-1+4}5=0
$$
であり、$r=0$ である。このデータは「$r=0$ ならば 2 つの変量の間に関係はない」という含意を破る。cor-crr-range が示すのは $|r|=1$ と 1 次式の関係の同値だけであり、相関係数が測るのは直線的な関係の強さである(図 1 の右端)。
$\boldsymbol x=(1,2,3,4,5)$、$\boldsymbol y=(1,4,9,16,25)$($y_i=x_i^2$)とする。$\bar y=11$ で、$y$ の偏差は $(-10,-7,-2,5,14)$ である。
$\boldsymbol x=(2,2,2)$、$\boldsymbol y=(1,2,3)$ では、$x$ の偏差ベクトルは $\boldsymbol 0$ で $s_x=0$、$s_{xy}=0$ である。$r=\frac00$ となり、相関係数は定義できない。Cauchy–Schwarz の不等式は $0\le0$ として成り立っているが、角を定める式は意味を失う。長さ $0$ のベクトルには向きがないからである。
Mathpediaは寄付と、参考文献の書籍リンク(Amazonアソシエイト)の紹介料で運営されています。 支援について / 寄付する