コンテンツにスキップ

データの分析:平均・分散・相関・回帰直線の「なぜ」

対象読者: 本テーマ第1章の場合の数と、高校数学の数列の和(シグマ記号)・2次関数の平方完成を学んだ人。平均・分散・相関は未習でもよく、微分は仮定しません。

前提となる記事:場合の数:順列・組合せと数え上げの原理

生 Markdown

テストの結果を 1 つの数で言うなら平均点でしょうか、それとも真ん中の人の点数でしょうか。また、数学の点数と英語の点数に「関係がある」とは、どういうことでしょうか。この記事は、こうした素朴な疑問に、公式の暗記ではなく「ずれをなるべく小さくする」という考え方で答えます。読み終えると、平均・分散・相関係数・回帰直線の式がなぜその形になるのかを、自分の言葉で説明できるようになります。

  • データの代表値は 3 つ(平均・中央値・最頻値)あります。この記事の最初の主張は、平均は誤差の二乗の和を最小にする値、中央値は誤差の絶対値の和を最小にする値だということです。「どの代表値が正しいか」は「どんな誤差を小さくしたいか」で決まります。
  • 分散の公式「(2 乗の平均)−(平均の 2 乗)」は、∑(xi−a)2=∑(xi−xˉ)2+n(xˉ−a)2\sum(x_i-a)^2=\sum(x_i-\bar x)^2+n(\bar x-a)^2 という 1 本の等式から出ます。変量の 1 次変換 y=ax+by=ax+b では平均は axˉ+ba\bar x+b、分散は a2a^2 倍になります。
  • 相関係数 rr は、偏差をならべたベクトルのなす角の余弦です(ベクトルは「数を並べた矢印」と思えば十分です)。Cauchy–Schwarz の不等式(内積の大きさは長さの積を超えない、という不等式)により −1≤r≤1-1\le r\le1、∣r∣=1|r|=1 はデータが 1 直線に乗るときに限ります。
  • 回帰直線(最小二乗法)は微分を使わず、平方完成だけで求まります。傾きは r sy/sxr\,s_y/s_x、直線は平均の点 (xˉ,yˉ)(\bar x,\bar y) を通り、残りの二乗和は全体の 1−r21-r^2 倍です。
  • 全体の分散は「群内分散の平均 + 群間分散」に分解できます。Simpson のパラドックス(部分では A が良いのに、全体では B が良い)は、重み付き平均の重みがちがうために起こります。

「このクラスのテストの結果を 1 つの数で言うと」と聞かれたとき、平均点を答える人も中央値を答える人もいます。どちらも「正しい」のですが、何を答えているかが違います。この記事では、代表値・ばらつき・関係の強さといった概念を、公式の暗記ではなく何かを最小にするという性質として理解します。

高校では分散を nn で割って定義します(標本としての不偏分散は n−1n-1 で割る別の量で、統計的な推測の記事で扱います)。ここでも nn で割ります。

nn 個のデータ x1,…,xnx_1,\dots,x_n を小さい順に並べ替えたものを x(1)≤x(2)≤⋯≤x(n)x_{(1)}\le x_{(2)}\le\cdots\le x_{(n)} と書きます。

定義 2.1(平均・中央値・最頻値)↗

  • 平均 xˉ=1n∑i=1nxi\bar x=\dfrac1n\sum_{i=1}^nx_i。
  • 中央値 mm(メジアン): nn が奇数のとき x((n+1)/2)x_{((n+1)/2)}、偶数のとき x(n/2)+x(n/2+1)2\dfrac{x_{(n/2)}+x_{(n/2+1)}}{2}。
  • 最頻値: 最も多く現れる値(複数あってもよい)。

定義 2.2(四分位数と箱ひげ図)↗

n≥2n\ge2 とする。中央値を Q2Q_2 とする。データを中央値で上下に分ける(nn が奇数のときは中央値そのものを除く)。下半分の中央値を第 1 四分位数 Q1Q_1、上半分の中央値を第 3 四分位数 Q3Q_3 という。Q3−Q1Q_3-Q_1 を四分位範囲という。最小値・Q1Q_1・Q2Q_2・Q3Q_3・最大値を図にしたものが箱ひげ図である。

四分位数の定義には何通りかの流儀があります(補間で決めるものなど)。ここでは高校の教科書で多く採られる、上の流儀を使います。

例 2.3(9 個のデータの四分位数)

データ 2,4,5,7,8,10,11,14,252,4,5,7,8,10,11,14,25(n=9n=9)。中央値は 88。下半分 2,4,5,72,4,5,7 の中央値が Q1=4+52=4.5Q_1=\dfrac{4+5}2=4.5、上半分 10,11,14,2510,11,14,25 の中央値が Q3=11+142=12.5Q_3=\dfrac{11+14}2=12.5。四分位範囲は 88、平均は 869≈9.56\dfrac{86}9\approx9.56。最大値 2525 が他から離れているので、平均は中央値より大きくなっています。

07.51522.530
例のデータの箱ひげ図(最小 2、Q1 = 4.5、中央値 8、Q3 = 12.5、最大 25)

定義 3.1(偏差・分散・標準偏差)↗

各 xix_i について xi−xˉx_i-\bar x を偏差という。分散を sx2=1n∑i=1n(xi−xˉ)2s_x^2=\dfrac1n\sum_{i=1}^n(x_i-\bar x)^2、標準偏差を sx=sx2s_x=\sqrt{s_x^2} と定める。偏差の和は ∑(xi−xˉ)=nxˉ−nxˉ=0\sum(x_i-\bar x)=n\bar x-n\bar x=0 である。

分散を「平均からの距離の二乗の平均」と読むと、平均を別の値 aa に置き換えたとき何が起きるかが気になります。それが次の補題です。

補題 3.2(任意の点からの二乗和)✓

任意の実数 aa について

∑i=1n(xi−a)2=∑i=1n(xi−xˉ)2+n(xˉ−a)2.\sum_{i=1}^n(x_i-a)^2=\sum_{i=1}^n(x_i-\bar x)^2+n(\bar x-a)^2.
証明(補題 3.2)

xi−a=(xi−xˉ)+(xˉ−a)x_i-a=(x_i-\bar x)+(\bar x-a) と分けて展開すると

∑(xi−a)2=∑(xi−xˉ)2+2(xˉ−a)∑(xi−xˉ)+n(xˉ−a)2.\sum(x_i-a)^2=\sum(x_i-\bar x)^2+2(\bar x-a)\sum(x_i-\bar x)+n(\bar x-a)^2.

偏差の和は 00 なので、中央の項が消える。

命題 3.3(分散の公式)✓

sx2=x2‾−xˉ2s_x^2=\overline{x^2}-\bar x^2、すなわち「2 乗の平均」から「平均の 2 乗」を引いたものに等しい。ここで x2‾=1n∑xi2\overline{x^2}=\dfrac1n\sum x_i^2。

証明(命題 3.3)

補題 3.2 で a=0a=0 とすると ∑xi2=∑(xi−xˉ)2+nxˉ2\sum x_i^2=\sum(x_i-\bar x)^2+n\bar x^2。両辺を nn で割って移項する。

命題 3.4(1 次変換と平均・分散)✓

a,ba,b を実数とし、yi=axi+by_i=ax_i+b とする。このとき yˉ=axˉ+b\bar y=a\bar x+b、sy2=a2sx2s_y^2=a^2s_x^2、sy=∣a∣sxs_y=|a|s_x である。

証明(命題 3.4)

yˉ=1n∑(axi+b)=axˉ+b\bar y=\frac1n\sum(ax_i+b)=a\bar x+b。yi−yˉ=a(xi−xˉ)y_i-\bar y=a(x_i-\bar x) なので sy2=1n∑a2(xi−xˉ)2=a2sx2s_y^2=\frac1n\sum a^2(x_i-\bar x)^2=a^2s_x^2。

例 3.5(偏差値)

データ xix_i から作る zi=xi−xˉsxz_i=\dfrac{x_i-\bar x}{s_x}(sx>0s_x>0)は、命題 3.4 により平均 00、分散 11 です。さらに Ti=50+10ziT_i=50+10z_i は平均 5050、分散 100100(標準偏差 1010)で、これが偏差値です。平均 6060、標準偏差 1515 のテストで 75 点なら z=1z=1、偏差値は 6060 です。

4. 平均は二乗誤差を、中央値は絶対誤差を最小にする

Section titled “4. 平均は二乗誤差を、中央値は絶対誤差を最小にする”

定理 4.1(平均は二乗誤差の和を最小にする)✓

関数 f(a)=∑i=1n(xi−a)2f(a)=\sum_{i=1}^n(x_i-a)^2 は a=xˉa=\bar x でただ 1 つの最小値 nsx2n s_x^2 をとる。

証明(定理 4.1)

補題 3.2 により f(a)=nsx2+n(xˉ−a)2≥nsx2f(a)=ns_x^2+n(\bar x-a)^2\ge ns_x^2 で、等号は a=xˉa=\bar x のときに限る。

絶対値は二乗のように展開できないので、平均のときの方法は使えません。そこで、小さい方から ii 番目と大きい方から ii 番目を組にして、2 点までの距離の和を調べます。aa が 2 点の間にあれば、この和は aa によらず 2 点の間隔に等しくなります。次の証明はこの見方で最小値を求めています。

定理 4.2(中央値は絶対誤差の和を最小にする)✓

g(a)=∑i=1n∣xi−a∣g(a)=\sum_{i=1}^n|x_i-a| とする。gg の最小値は ∑i≤n/2(x(n+1−i)−x(i))\sum_{i\le n/2}\bigl(x_{(n+1-i)}-x_{(i)}\bigr) で、これを与える aa は、nn が奇数のときは中央値 x((n+1)/2)x_{((n+1)/2)} だけ、nn が偶数のときは区間 x(n/2)≤a≤x(n/2+1)x_{(n/2)}\le a\le x_{(n/2+1)} のすべての aa である(中央値はこの区間の中点)。

証明(定理 4.2)

和の順序を変えて g(a)=∑i∣x(i)−a∣g(a)=\sum_i|x_{(i)}-a| と書く。1≤i≤n/21\le i\le n/2 について、外側から ii 番目の対をとる。三角不等式より

∣x(i)−a∣+∣x(n+1−i)−a∣≥∣(a−x(i))+(x(n+1−i)−a)∣=x(n+1−i)−x(i).|x_{(i)}-a|+|x_{(n+1-i)}-a|\ge\bigl|(a-x_{(i)})+(x_{(n+1-i)}-a)\bigr|=x_{(n+1-i)}-x_{(i)}.

等号は a−x(i)≥0a-x_{(i)}\ge0 かつ x(n+1−i)−a≥0x_{(n+1-i)}-a\ge0、すなわち x(i)≤a≤x(n+1−i)x_{(i)}\le a\le x_{(n+1-i)} のとき(かつそのときに限る。2 数 p,qp,q で ∣p∣+∣q∣=∣p+q∣|p|+|q|=|p+q| となるのは pq≥0pq\ge0 のときで、ここでは p+q=x(n+1−i)−x(i)≥0p+q=x_{(n+1-i)}-x_{(i)}\ge0 なので、p,qp,q がともに ≤0\le0 なら p=q=0p=q=0、つまりどちらにしても p,q≥0p,q\ge0)。nn が奇数なら真ん中の項 ∣x((n+1)/2)−a∣≥0|x_{((n+1)/2)}-a|\ge0 が残り、等号は a=x((n+1)/2)a=x_{((n+1)/2)} のとき。各項の下限を足すと最小値の下界が得られ、すべての対とすべての真ん中の項で等号が成り立つ aa が最小点である。区間 [x(i),x(n+1−i)][x_{(i)},x_{(n+1-i)}] は ii が大きいほど狭く入れ子になるので、共通部分は最も内側の区間で、nn 偶数なら [x(n/2),x(n/2+1)][x_{(n/2)},x_{(n/2+1)}]、nn 奇数なら(真ん中の項の条件と合わせて){x((n+1)/2)}\{x_{((n+1)/2)}\} である。この共通部分は空でないので、下界は実際に達成される。

例 4.3(外れ値に強いのは中央値)

2,3,4,5,62,3,4,5,6 の平均・中央値はともに 44。最後の 66 を 6060 に取り替えると、平均は 2+3+4+5+605=14.8\dfrac{2+3+4+5+60}5=14.8 に跳ね上がりますが、中央値は 44 のままです。1 個のデータをいくら動かしても、中央値は(その順位が入れ替わらない限り)動きません。定理 4.2 は、絶対値は二乗に比べて大きな誤差を重く罰しない、という言い方もできます。

2 つの変量 x,yx,y の対 (x1,y1),…,(xn,yn)(x_1,y_1),\dots,(x_n,y_n) を考えます。

定義 5.1(共分散・相関係数)↗

共分散を sxy=1n∑i=1n(xi−xˉ)(yi−yˉ)s_{xy}=\dfrac1n\sum_{i=1}^n(x_i-\bar x)(y_i-\bar y) と定める。sx>0s_x>0、sy>0s_y>0 のとき、相関係数を r=sxysxsyr=\dfrac{s_{xy}}{s_xs_y} と定める。

同様の計算で sxy=xy‾−xˉyˉs_{xy}=\overline{xy}-\bar x\bar y(積の平均 − 平均の積)が分かります(命題 3.3 と同じ展開)。

偏差を並べたベクトル u=(xi−xˉ)i\boldsymbol u=(x_i-\bar x)_i、v=(yi−yˉ)i∈Rn\boldsymbol v=(y_i-\bar y)_i\in\mathbb{R}^n を作ると、sx2=1n∥u∥2s_x^2=\frac1n\lVert\boldsymbol u\rVert^2、sy2=1n∥v∥2s_y^2=\frac1n\lVert\boldsymbol v\rVert^2、sxy=1nu⋅vs_{xy}=\frac1n\boldsymbol u\cdot\boldsymbol v です。したがって

r=u⋅v∥u∥ ∥v∥r=\frac{\boldsymbol u\cdot\boldsymbol v}{\lVert\boldsymbol u\rVert\,\lVert\boldsymbol v\rVert}

で、これは 2 つのベクトルのなす角の余弦そのものです。

nn 個の数の組を nn 次元の矢印とみなしても、2 次元・3 次元の矢印と同じ式(内積を長さの積で割る)が使えます。xx が平均より大きいとき yy も大きい傾向があれば、2 本の矢印は同じ向きに近づき、角は小さく、rr は 11 に近くなります。次の定理の等号条件に出てくる「1 次従属」とは、ここでは一方の矢印がもう一方の(00 でない)定数倍になっていること、と読んでください。

定理 5.2(相関係数の範囲)✓

sx>0s_x>0、sy>0s_y>0 のとき −1≤r≤1-1\le r\le1 である。r=1r=1(r=−1r=-1)となるのは、すべての点 (xi,yi)(x_i,y_i) が傾きが正(負)の 1 本の直線 y=ax+by=ax+b 上にあるとき、かつそのときに限る。

証明(定理 5.2)

Rn\mathbb{R}^n の標準内積は内積(定義 3.1[内積空間とグラム・シュミット直交化])なので、Cauchy–Schwarz の不等式(定理 4.2)[内積空間とグラム・シュミット直交化] から ∣u⋅v∣≤∥u∥∥v∥|\boldsymbol u\cdot\boldsymbol v|\le\lVert\boldsymbol u\rVert\lVert\boldsymbol v\rVert。両辺を n sxsy=∥u∥∥v∥n\,s_xs_y=\lVert\boldsymbol u\rVert\lVert\boldsymbol v\rVert で割って ∣r∣≤1|r|\le1。 等号は u,v\boldsymbol u,\boldsymbol v が 1 次従属のときに限る。sx,sy>0s_x,s_y>0 より u,v≠0\boldsymbol u,\boldsymbol v\ne\boldsymbol 0 なので、1 次従属は v=cu\boldsymbol v=c\boldsymbol u(c≠0c\ne0)と同じで、これは yi−yˉ=c(xi−xˉ)y_i-\bar y=c(x_i-\bar x)(すべての ii)、すなわち点が直線 y=c(x−xˉ)+yˉy=c(x-\bar x)+\bar y 上にあることである。このとき u⋅v=c∥u∥2\boldsymbol u\cdot\boldsymbol v=c\lVert\boldsymbol u\rVert^2 なので rr の符号は cc の符号に等しい。逆に点が y=ax+by=ax+b(a≠0a\ne0)上にあれば yi−yˉ=a(xi−xˉ)y_i-\bar y=a(x_i-\bar x) で、同じ計算から r=sgn⁡(a)r=\operatorname{sgn}(a)。

命題 5.3(1 次変換と相関係数)✓

a,c≠0a,c\ne0 とし、xi′=axi+bx_i'=ax_i+b、yi′=cyi+dy_i'=cy_i+d とおく。このとき sx′y′=ac sxys_{x'y'}=ac\,s_{xy} で、相関係数は r′=sgn⁡(ac) rr'=\operatorname{sgn}(ac)\,r である。

証明(命題 5.3)

命題 3.4 と同様に xi′−xˉ′=a(xi−xˉ)x_i'-\bar x'=a(x_i-\bar x)、yi′−yˉ′=c(yi−yˉ)y_i'-\bar y'=c(y_i-\bar y) なので sx′y′=ac sxys_{x'y'}=ac\,s_{xy}。標準偏差は sx′=∣a∣sxs_{x'}=|a|s_x、sy′=∣c∣sys_{y'}=|c|s_y なので r′=ac sxy∣a∣∣c∣sxsy=sgn⁡(ac) rr'=\dfrac{ac\,s_{xy}}{|a||c|s_xs_y}=\operatorname{sgn}(ac)\,r。

単位を変えても(cm→m\text{cm}\to\text{m})相関係数は変わらない、ということです。

例 5.4(順位相関係数)

データを大きさの順位に置き換え、順位の相関係数をとったものが Spearman の順位相関係数です。同順位があるときは順位の平均をとります。外れ値の影響を受けにくく、単調な(直線とは限らない)関係を測れます。たとえば (x,y)=(1,1),(2,8),(3,27),(4,64)(x,y)=(1,1),(2,8),(3,27),(4,64)(y=x3y=x^3)は直線ではないので Pearson の r<1r<1 ですが、順位は完全に一致し Spearman の係数は 11 です。

順位に重なりがないとき、順位の差を di=Ri−Sid_i=R_i-S_i とすると、次の式が成り立ちます(演習 9.3 の計算)。

ρS=1−6∑di2n(n2−1).\rho_S=1-\frac{6\sum d_i^2}{n(n^2-1)}.

例 5.5(相関は因果ではない)

気温が上がるとアイスの売上も水難事故も増えるので、2 つの間に強い正の相関が現れます。アイスが水難事故の原因なのではなく、共通の原因(気温)があります。rr は「直線への近さ」しか測りません。因果を言うには、実験計画(無作為化)や、共通の原因を層に分けて見る工夫が要ります(次の §7)。

点 (xi,yi)(x_i,y_i) に最もよく合う直線 y=ax+by=ax+b とは、縦方向のずれの二乗和 Q(a,b)=∑i(yi−axi−b)2Q(a,b)=\sum_i\bigl(y_i-ax_i-b\bigr)^2 を最小にするものだ、と定めます(最小二乗法)。

定理 6.1(回帰直線)✓

sx>0s_x>0 とする。Q(a,b)Q(a,b) を最小にする (a,b)(a,b) はただ 1 つで

a=sxysx2,b=yˉ−axˉa=\frac{s_{xy}}{s_x^2},\qquad b=\bar y-a\bar x

である。すなわち回帰直線は y−yˉ=sxysx2(x−xˉ)y-\bar y=\dfrac{s_{xy}}{s_x^2}(x-\bar x) で、点 (xˉ,yˉ)(\bar x,\bar y) を通る。sy>0s_y>0 なら傾きは r sysxr\,\dfrac{s_y}{s_x} で、最小値は Qmin⁡=n sy2(1−r2)Q_{\min}=n\,s_y^2(1-r^2) である。

証明の筋道は、二乗和を「bb を動かして最小にする部分」と「aa を動かして最小にする部分」に分け、それぞれを平方完成することです。なお、次の証明の ui,viu_i,v_i は、前の節のベクトル u,v\boldsymbol u,\boldsymbol v とは別のもの(それぞれ y,xy,x の偏差)です。

証明(定理 6.1)

ui=yi−yˉu_i=y_i-\bar y、vi=xi−xˉv_i=x_i-\bar x とおく。yi−axi−b=(ui−avi)+(yˉ−axˉ−b)y_i-ax_i-b=(u_i-av_i)+(\bar y-a\bar x-b) であり、∑(ui−avi)=0\sum(u_i-av_i)=0 なので、補題 3.2 と同じ展開で

Q(a,b)=∑i(ui−avi)2+n(yˉ−axˉ−b)2.Q(a,b)=\sum_i(u_i-av_i)^2+n(\bar y-a\bar x-b)^2.

第 2 項は b=yˉ−axˉb=\bar y-a\bar x のときに最小値 00 をとり、第 1 項は bb によらない。第 1 項は

∑i(ui−avi)2=n(sy2−2asxy+a2sx2)=nsx2(a−sxysx2)2+n(sy2−sxy2sx2)\sum_i(u_i-av_i)^2=n\bigl(s_y^2-2as_{xy}+a^2s_x^2\bigr)=ns_x^2\Bigl(a-\frac{s_{xy}}{s_x^2}\Bigr)^2+n\Bigl(s_y^2-\frac{s_{xy}^2}{s_x^2}\Bigr)

と平方完成できる(sx2>0s_x^2>0)ので、a=sxy/sx2a=s_{xy}/s_x^2 のときだけ最小になる。最小値は n(sy2−sxy2/sx2)=nsy2(1−r2)n(s_y^2-s_{xy}^2/s_x^2)=ns_y^2(1-r^2)。

注意 6.2

上の最小化は、ベクトル y∈Rn\boldsymbol y\in\mathbb{R}^n を、1=(1,…,1)\boldsymbol 1=(1,\dots,1) と x\boldsymbol x が張る平面に正射影することと同じです。最小値が Qmin⁡Q_{\min} になる理由は 最良近似(定理 7.2)[内積空間とグラム・シュミット直交化] と、一般の説明変数の場合の 最小二乗推定量と射影(定理 2.2)[線形モデル] が与えます。ここでは微分も行列も使わずに平方完成だけで済ませました。

1−r21-r^2 は「回帰で説明されなかった割合」で、r2r^2 は決定係数とよばれます。r=±1r=\pm1 のとき残差は 00、r=0r=0 のときは b=yˉb=\bar y、a=0a=0(水平な直線)です。

例 6.3(4 点の回帰直線)

(1,2),(2,3),(3,5),(4,6)(1,2),(2,3),(3,5),(4,6) では xˉ=2.5\bar x=2.5、yˉ=4\bar y=4、sx2=1.25s_x^2=1.25、sy2=2.5s_y^2=2.5、sxy=1.75s_{xy}=1.75。傾きは 1.75/1.25=1.41.75/1.25=1.4、切片は 4−1.4×2.5=0.54-1.4\times2.5=0.5 で、回帰直線は y=1.4x+0.5y=1.4x+0.5。r2=1.7521.25×2.5=0.98r^2=\dfrac{1.75^2}{1.25\times2.5}=0.98、r≈0.99r\approx0.99 で、点はほぼ直線上にあります。

7. 分散の分解と Simpson のパラドックス

Section titled “7. 分散の分解と Simpson のパラドックス”

データを GG 個の群に分けます。群 gg のデータの個数を ngn_g、平均を xˉg\bar x_g、分散を sg2s_g^2 とします。n=∑ngn=\sum n_g。

定理 7.1(分散の分解)✓

全体の平均 xˉ\bar x と分散 sx2s_x^2 について

xˉ=∑gngnxˉg,sx2=∑gngnsg2⏟群内分散の平均+∑gngn(xˉg−xˉ)2⏟群間分散.\bar x=\sum_{g}\frac{n_g}n\bar x_g,\qquad s_x^2=\underbrace{\sum_g\frac{n_g}ns_g^2}_{\text{群内分散の平均}}+\underbrace{\sum_g\frac{n_g}n(\bar x_g-\bar x)^2}_{\text{群間分散}}.
証明(定理 7.1)

全体の和を群ごとの和に分けると nxˉ=∑gngxˉgn\bar x=\sum_g n_g\bar x_g で第 1 式が出る。群 gg の中で 補題 3.2 を a=xˉa=\bar x として使うと、∑i∈g(xi−xˉ)2=ngsg2+ng(xˉg−xˉ)2\sum_{i\in g}(x_i-\bar x)^2=n_gs_g^2+n_g(\bar x_g-\bar x)^2。これを全群で足して nn で割れば第 2 式。

例 7.2(4 個のデータを 2 群に分ける)

{1,3}\{1,3\}(平均 22、分散 11)と {5,9}\{5,9\}(平均 77、分散 44)。全体の平均は 4.54.5、群内分散の平均は 12(1+4)=2.5\frac12(1+4)=2.5、群間分散は 12((2−4.5)2+(7−4.5)2)=6.25\frac12\bigl((2-4.5)^2+(7-4.5)^2\bigr)=6.25。和は 8.758.75 で、全体の分散を直接計算した 14(12.25+2.25+0.25+20.25)=8.75\frac14(12.25+2.25+0.25+20.25)=8.75 と一致します。

例 7.3(Simpson のパラドックス)

2 つの治療法 A・B を、軽症と重症の患者に使った結果を次のとおりとします(数値は例示のために作ったものです)。

軽症重症全体
A の成功数 / 人数18/20=90%18/20=90\%40/100=40%40/100=40\%58/120≈48%58/120\approx48\%
B の成功数 / 人数80/100=80%80/100=80\%5/20=25%5/20=25\%85/120≈71%85/120\approx71\%

どの層でも A の成功率が B を上回るのに、全体では B が上回ります。全体の成功率は層の成功率の重み付き平均(定理 7.1 の第 1 式と同じ形)で、重みは各層の人数の割合です。A は難しい重症患者に多く(100/120)、B は軽症患者に多く(100/120)使われているため、重みがちがい、順位が入れ替わります。「全体の率」と「層ごとの率」のどちらを使うべきかは、層(重症度)が結果にも治療の選択にも影響しているかを考えて決めます。この問題は Simpson (1951) が指摘した例として有名です。

  • 平均・分散・共分散は、確率変数の期待値・分散・共分散(確率変数)の「データが同様に確からしい」場合です。sx2=x2‾−xˉ2s_x^2=\overline{x^2}-\bar x^2 は Var(X)=E[X2]−E[X]2\mathrm{Var}(X)=E[X^2]-E[X]^2、相関係数の範囲は同じ Cauchy–Schwarz の不等式から出ます。
  • 回帰直線は線形モデルの最小二乗法の最も簡単な場合です。説明変数が複数のとき、行列と射影で一般化されます(線形モデル)。
  • 内積空間の言葉は 内積空間 で学びます。

演習 9.1易

データ 2,4,4,4,5,5,7,92,4,4,4,5,5,7,9 の平均と分散、標準偏差を求めよ。

解答

平均は 408=5\dfrac{40}8=5。偏差の二乗は 9,1,1,1,0,0,4,169,1,1,1,0,0,4,16 で和は 3232、分散は 44、標準偏差は 22。命題 3.3 でも、2 乗の平均 4+16+16+16+25+25+49+818=2328=29\dfrac{4+16+16+16+25+25+49+81}8=\dfrac{232}8=29、29−25=429-25=4 と一致する。

演習 9.2標準

データ x1,…,xnx_1,\dots,x_n の平均が 6060、標準偏差が 1515 である。yi=43xi−10y_i=\dfrac{4}{3}x_i-10 の平均と標準偏差を求めよ。また、x=30x=30 の偏差値を求めよ。

解答

命題 3.4 より yˉ=43⋅60−10=70\bar y=\frac43\cdot60-10=70、sy=43⋅15=20s_y=\frac43\cdot15=20。x=30x=30 の偏差値は 50+10⋅30−6015=3050+10\cdot\dfrac{30-60}{15}=30。

演習 9.3難

順位 RiR_i と SiS_i がどちらも 1,…,n1,\dots,n の並べ替えのとき、di=Ri−Sid_i=R_i-S_i として、RR と SS の相関係数が 1−6∑di2n(n2−1)1-\dfrac{6\sum d_i^2}{n(n^2-1)} に等しいことを示せ。(∑k=1nk=n(n+1)2\sum_{k=1}^nk=\frac{n(n+1)}2、∑k=1nk2=n(n+1)(2n+1)6\sum_{k=1}^nk^2=\frac{n(n+1)(2n+1)}6 を使ってよい。)

解答

R,SR,S の平均はともに n+12\frac{n+1}2。分散は 1n∑k2−(n+12)2=(n+1)(2n+1)6−(n+1)24=n2−112\frac1n\sum k^2-\bigl(\frac{n+1}2\bigr)^2=\frac{(n+1)(2n+1)}6-\frac{(n+1)^2}4=\frac{n^2-1}{12}。偏差を R~i=Ri−n+12\tilde R_i=R_i-\frac{n+1}2、S~i=Si−n+12\tilde S_i=S_i-\frac{n+1}2 とすると di=R~i−S~id_i=\tilde R_i-\tilde S_i で、∑di2=∑R~i2+∑S~i2−2∑R~iS~i\sum d_i^2=\sum\tilde R_i^2+\sum\tilde S_i^2-2\sum\tilde R_i\tilde S_i。したがって ∑R~iS~i=12(2⋅n(n2−1)12−∑di2)\sum\tilde R_i\tilde S_i=\frac12\bigl(2\cdot\frac{n(n^2-1)}{12}-\sum d_i^2\bigr)。相関係数は ∑R~iS~in(n2−1)/12=1−6∑di2n(n2−1)\dfrac{\sum\tilde R_i\tilde S_i}{n(n^2-1)/12}=1-\dfrac{6\sum d_i^2}{n(n^2-1)}。

演習 9.4標準

10 人のクラスで、男子 4 人の得点の平均が 70、分散が 25、女子 6 人の得点の平均が 60、分散が 16 であった。全体の平均と分散を求めよ。

解答

全体の平均は 4⋅70+6⋅6010=64\frac{4\cdot70+6\cdot60}{10}=64。定理 7.1 から、群内分散の平均は 410⋅25+610⋅16=10+9.6=19.6\frac4{10}\cdot25+\frac6{10}\cdot16=10+9.6=19.6、群間分散は 410(70−64)2+610(60−64)2=14.4+9.6=24\frac4{10}(70-64)^2+\frac6{10}(60-64)^2=14.4+9.6=24。全体の分散は 43.643.6。

  1. 東京大学教養学部統計学教室(編)『統計学入門』東京大学出版会、1991 — 1 次元のデータ・2 次元のデータの章。
  2. David Freedman, Robert Pisani, Roger Purves, Statistics, 4th ed., W. W. Norton, 2007 — 相関と回帰、Simpson のパラドックスに関する章。
  3. E. H. Simpson, “The interpretation of interaction in contingency tables”, J. Roy. Statist. Soc. Ser. B 13 (1951), 238–241.
  4. C. Spearman, “The proof and measurement of association between two things”, Amer. J. Psychol. 15 (1904), 72–101.

このテーマの 100 本ノック(80 問)

執筆: Claude Code(Sonnet 5.5)・監査 2 回(Claude Code)・最終 2026-10-12

この記事の誤りを報告する ・運営: 夢現技研合同会社 ・料金 ・利用条件 ・特定商取引法に基づく表記

© 2026 夢現技研合同会社 ・コード例は MIT ライセンスです。