新しい薬が本当に効くのか、それとも偶然よく見えただけなのか。データを見て「効く」と言い切ってよいかを、間違える確率を決めたうえで判断するのが仮説検定です。この記事では、判断の間違いをどう数えるか、与えられた条件の下でいちばん鋭い判定のしかたは何か、そして標本が大きいときに使える万能の判定法は何かを順に見ます。最後に、同じ考え方から「母数のありうる範囲」を示す区間が得られることを説明します。
検定 は、データから「帰無仮説 H 0 H_0 H 0 H 0 H_0 H 0 α \alpha α Neyman–Pearson の補題 ：単純仮説どうしの検定では、尤度比 f 1 / f 0 f_1/f_0 f 1 / f 0 棄却域 とする検定が最強力です。証明は 1 本の積分不等式で、一意性も出ます。尤度比が検定統計量について単調な族（単調尤度比 ）では、片側仮説に対する一様最強力検定 が存在します（Karlin–Rubin）。両側仮説にはそのようなものは存在しません。
尤度比検定 の統計量 2 log Λ n 2\log\Lambda_n 2 log Λ n 正則条件 のもとで、帰無仮説が真のとき自由度 r r r カイ二乗分布 に近づきます（Wilks の定理 ）。検定を反転すると信頼区間 が得られます。Wald 型、尤度比型、スコア型（Wilson）の区間は、n n n
尤度・スコア・最尤推定量 : データが得られたときに、母数の値ごとに「そのデータの出やすさ」を表す関数が尤度で、それを最大にする母数が最尤推定量。→ 尤度 正則条件 : 最尤推定量が一致し、漸近的に正規分布に従うために置く、密度の滑らかさなどの条件。→ 正則条件 確率収束と分布収束 : 確率変数の列が、ある値に近づく／ある分布に近づく、という 2 通りの収束。→ 分布収束 指数型分布族 : 密度が h e η ( θ ) T − A ( θ ) h\,e^{\eta(\theta)T-A(\theta)} h e η ( θ ) T − A ( θ ) 指数型分布族 Gauss ベクトル : どの 1 次結合も正規分布に従う確率ベクトル。→ Gauss ベクトル 新薬を 100 人に投与して 62 人が改善した。従来の治療法の改善率は 50% として、この薬は本当に効くのか。62 は 50 より大きいが、偶然だけで 62 人が改善することもあるかもしれない。この「偶然か、本物の差か」を、誤判断の確率を制御しながら決める手続きが仮説検定 です。
統計モデルと十分統計量 では点推定量の最適性（UMVUE）を、点推定と漸近理論 ではその大標本での振る舞いを扱いました。この章では、同じ道具（尤度、スコア、漸近正規性）が検定でも中心的な役割を果たすことを見ます。流れは、最適性の理論（Neyman–Pearson、1933）と、一般の問題に使える万能の検定（尤度比検定）の漸近理論（Wilks、1938）です。最後に、検定と区間推定が同じ論理の裏表であることを示します。
定義 2.1 （検定問題・検定関数・水準・検出力 ） ↗
母数空間を互いに素な Θ 0 \Theta_0 Θ 0 Θ 1 \Theta_1 Θ 1 帰無仮説 H 0 : θ ∈ Θ 0 H_0:\theta\in\Theta_0 H 0 : θ ∈ Θ 0 対立仮説 H 1 : θ ∈ Θ 1 H_1:\theta\in\Theta_1 H 1 : θ ∈ Θ 1 Θ i \Theta_i Θ i 単純仮説 、そうでなければ複合仮説 という。検定関数 は φ : X → [ 0 , 1 ] \varphi:\mathcal X\to[0,1] φ : X → [ 0 , 1 ] φ ( x ) \varphi(x) φ ( x ) x x x H 0 H_0 H 0 φ \varphi φ { 0 , 1 } \{0,1\} { 0 , 1 } { φ = 1 } \{\varphi=1\} { φ = 1 } 棄却域 ）。検出力関数 を β φ ( θ ) = E θ φ ( X ) \beta_\varphi(\theta)=E_\theta\varphi(X) β φ ( θ ) = E θ φ ( X )
第 1 種の誤り ：H 0 H_0 H 0 θ ∈ Θ 0 \theta\in\Theta_0 θ ∈ Θ 0 β φ ( θ ) \beta_\varphi(\theta) β φ ( θ ) 水準 α \alpha α とは sup θ ∈ Θ 0 β φ ( θ ) ≤ α \sup_{\theta\in\Theta_0}\beta_\varphi(\theta)\le\alpha sup θ ∈ Θ 0 β φ ( θ ) ≤ α sup Θ 0 β φ \sup_{\Theta_0}\beta_\varphi sup Θ 0 β φ サイズ という。第 2 種の誤り ：H 1 H_1 H 1 1 − β φ ( θ ) 1-\beta_\varphi(\theta) 1 − β φ ( θ ) θ ∈ Θ 1 \theta\in\Theta_1 θ ∈ Θ 1 β φ ( θ ) \beta_\varphi(\theta) β φ ( θ ) θ ∈ Θ 1 \theta\in\Theta_1 θ ∈ Θ 1 検出力 という。 確率化（0 < φ < 1 0<\varphi<1 0 < φ < 1 α \alpha α
水準を決めてから棄却するかを判断する代わりに、データから「どの水準まで棄却できるか」を報告する量が p p p
命題 2.2 （p p p ✓
単純帰無仮説 H 0 : θ = θ 0 H_0:\theta=\theta_0 H 0 : θ = θ 0 T T T T T T H 0 H_0 H 0 p p p p = P θ 0 ( T ′ ≥ T o b s ) p=P_{\theta_0}(T'\ge T_{\mathrm{obs}}) p = P θ 0 ( T ′ ≥ T obs ) T ′ T' T ′ T T T p p p H 0 H_0 H 0 U ( 0 , 1 ) U(0,1) U ( 0 , 1 ) p ≤ α p\le\alpha p ≤ α α \alpha α
証明（命題 2.2） F F F T T T p = 1 − F ( T ) p=1-F(T) p = 1 − F ( T ) U = F ( T ) U=F(T) U = F ( T ) u ∈ ( 0 , 1 ) u\in(0,1) u ∈ ( 0 , 1 ) P ( U ≤ u ) = P ( T ≤ F − 1 ( u ) ) = F ( F − 1 ( u ) ) = u P(U\le u)=P(T\le F^{-1}(u))=F(F^{-1}(u))=u P ( U ≤ u ) = P ( T ≤ F − 1 ( u )) = F ( F − 1 ( u )) = u F F F F − 1 ( u ) = sup { t : F ( t ) ≤ u } F^{-1}(u)=\sup\{t:F(t)\le u\} F − 1 ( u ) = sup { t : F ( t ) ≤ u } F ( F − 1 ( u ) ) = u F(F^{-1}(u))=u F ( F − 1 ( u )) = u U ∼ U ( 0 , 1 ) U\sim U(0,1) U ∼ U ( 0 , 1 ) p = 1 − U ∼ U ( 0 , 1 ) p=1-U\sim U(0,1) p = 1 − U ∼ U ( 0 , 1 ) P ( p ≤ α ) = α P(p\le\alpha)=\alpha P ( p ≤ α ) = α
∎ 単純仮説どうしの検定 H 0 : θ = θ 0 H_0:\theta=\theta_0 H 0 : θ = θ 0 H 1 : θ = θ 1 H_1:\theta=\theta_1 H 1 : θ = θ 1 f 0 , f 1 f_0,f_1 f 0 , f 1 μ \mu μ
定義 3.1 （尤度比検定（Neyman–Pearson 型） ） ↗
定数 k ≥ 0 k\ge0 k ≥ 0 γ ∈ [ 0 , 1 ] \gamma\in[0,1] γ ∈ [ 0 , 1 ]
φ k , γ ( x ) = { 1 f 1 ( x ) > k f 0 ( x ) γ f 1 ( x ) = k f 0 ( x ) 0 f 1 ( x ) < k f 0 ( x ) \varphi_{k,\gamma}(x)=\begin{cases}1&f_1(x)>k\,f_0(x)\\\gamma&f_1(x)=k\,f_0(x)\\0&f_1(x)<k\,f_0(x)\end{cases} φ k , γ ( x ) = ⎩ ⎨ ⎧ 1 γ 0 f 1 ( x ) > k f 0 ( x ) f 1 ( x ) = k f 0 ( x ) f 1 ( x ) < k f 0 ( x ) を尤度比検定という（f 0 = 0 f_0=0 f 0 = 0 f 1 > 0 f_1>0 f 1 > 0 f 1 > k f 0 f_1>kf_0 f 1 > k f 0
定理 3.2 （Neyman–Pearson の補題 ） ✓
0 < α < 1 0<\alpha<1 0 < α < 1
存在 ：E 0 φ k , γ = α E_0\varphi_{k,\gamma}=\alpha E 0 φ k , γ = α k , γ k,\gamma k , γ 最適性 ：E 0 φ = α E_0\varphi=\alpha E 0 φ = α φ = φ k , γ \varphi=\varphi_{k,\gamma} φ = φ k , γ α \alpha α E 0 ψ ≤ α E_0\psi\le\alpha E 0 ψ ≤ α ψ \psi ψ E 1 ψ ≤ E 1 φ E_1\psi\le E_1\varphi E 1 ψ ≤ E 1 φ 最強力検定 （MP 検定）である。一意性 ：水準 α \alpha α ψ \psi ψ { f 1 ≠ k f 0 } \{f_1\ne kf_0\} { f 1 = k f 0 } μ \mu μ ψ = φ \psi=\varphi ψ = φ 証明の流れは次のとおりです。1 は、棄却の閾値 k k k α \alpha α k k k α \alpha α k k k γ \gamma γ
証明（定理 3.2） 1. 存在。 G ( k ) = P 0 ( f 1 > k f 0 ) G(k)=P_0(f_1>kf_0) G ( k ) = P 0 ( f 1 > k f 0 ) G G G k k k k → ∞ k\to\infty k → ∞ G → P 0 ( f 0 = 0 かつ f 1 > 0 ) = 0 G\to P_0(f_0=0\ \text{かつ}\ f_1>0)=0 G → P 0 ( f 0 = 0 かつ f 1 > 0 ) = 0 P 0 ( f 0 = 0 ) = 0 P_0(f_0=0)=0 P 0 ( f 0 = 0 ) = 0 k 0 = inf { k ≥ 0 : G ( k ) ≤ α } k_0=\inf\{k\ge0:G(k)\le\alpha\} k 0 = inf { k ≥ 0 : G ( k ) ≤ α } G ( k 0 ) ≤ α G(k_0)\le\alpha G ( k 0 ) ≤ α k < k 0 k<k_0 k < k 0 G ( k ) > α G(k)>\alpha G ( k ) > α P 0 ( f 1 ≥ k 0 f 0 ) = lim k ↑ k 0 G ( k ) ≥ α P_0(f_1\ge k_0f_0)=\lim_{k\uparrow k_0}G(k)\ge\alpha P 0 ( f 1 ≥ k 0 f 0 ) = lim k ↑ k 0 G ( k ) ≥ α k 0 = 0 k_0=0 k 0 = 0 P 0 ( f 1 ≥ 0 ) = 1 > α P_0(f_1\ge0)=1>\alpha P 0 ( f 1 ≥ 0 ) = 1 > α γ = α − G ( k 0 ) P 0 ( f 1 = k 0 f 0 ) \gamma=\dfrac{\alpha-G(k_0)}{P_0(f_1=k_0f_0)} γ = P 0 ( f 1 = k 0 f 0 ) α − G ( k 0 ) 0 0 0 G ( k 0 ) = α G(k_0)=\alpha G ( k 0 ) = α γ = 0 \gamma=0 γ = 0 γ ∈ [ 0 , 1 ] \gamma\in[0,1] γ ∈ [ 0 , 1 ] E 0 φ k 0 , γ = G ( k 0 ) + γ P 0 ( f 1 = k 0 f 0 ) = α E_0\varphi_{k_0,\gamma}=G(k_0)+\gamma P_0(f_1=k_0f_0)=\alpha E 0 φ k 0 , γ = G ( k 0 ) + γ P 0 ( f 1 = k 0 f 0 ) = α
2. 最適性。 φ = φ k , γ \varphi=\varphi_{k,\gamma} φ = φ k , γ E 0 φ = α E_0\varphi=\alpha E 0 φ = α ψ \psi ψ E 0 ψ ≤ α E_0\psi\le\alpha E 0 ψ ≤ α x x x ( φ ( x ) − ψ ( x ) ) ( f 1 ( x ) − k f 0 ( x ) ) ≥ 0 (\varphi(x)-\psi(x))\bigl(f_1(x)-kf_0(x)\bigr)\ge0 ( φ ( x ) − ψ ( x )) ( f 1 ( x ) − k f 0 ( x ) ) ≥ 0 f 1 > k f 0 f_1>kf_0 f 1 > k f 0 φ = 1 ≥ ψ \varphi=1\ge\psi φ = 1 ≥ ψ f 1 < k f 0 f_1<kf_0 f 1 < k f 0 φ = 0 ≤ ψ \varphi=0\le\psi φ = 0 ≤ ψ f 1 = k f 0 f_1=kf_0 f 1 = k f 0 0 0 0 μ \mu μ
0 ≤ ∫ ( φ − ψ ) ( f 1 − k f 0 ) d μ = ( E 1 φ − E 1 ψ ) − k ( E 0 φ − E 0 ψ ) . 0\le\int(\varphi-\psi)(f_1-kf_0)\,d\mu=\bigl(E_1\varphi-E_1\psi\bigr)-k\bigl(E_0\varphi-E_0\psi\bigr). 0 ≤ ∫ ( φ − ψ ) ( f 1 − k f 0 ) d μ = ( E 1 φ − E 1 ψ ) − k ( E 0 φ − E 0 ψ ) . E 0 φ − E 0 ψ ≥ α − α = 0 E_0\varphi-E_0\psi\ge\alpha-\alpha=0 E 0 φ − E 0 ψ ≥ α − α = 0 k ≥ 0 k\ge0 k ≥ 0 k ( E 0 φ − E 0 ψ ) ≥ 0 k(E_0\varphi-E_0\psi)\ge0 k ( E 0 φ − E 0 ψ ) ≥ 0 E 1 φ − E 1 ψ ≥ k ( E 0 φ − E 0 ψ ) ≥ 0 E_1\varphi-E_1\psi\ge k(E_0\varphi-E_0\psi)\ge0 E 1 φ − E 1 ψ ≥ k ( E 0 φ − E 0 ψ ) ≥ 0
3. 一意性。 ψ \psi ψ α \alpha α E 1 ψ = E 1 φ E_1\psi=E_1\varphi E 1 ψ = E 1 φ ∫ ( φ − ψ ) ( f 1 − k f 0 ) d μ ≤ ( E 1 φ − E 1 ψ ) = 0 \int(\varphi-\psi)(f_1-kf_0)\,d\mu\le (E_1\varphi - E_1\psi) = 0 ∫ ( φ − ψ ) ( f 1 − k f 0 ) d μ ≤ ( E 1 φ − E 1 ψ ) = 0 k ( E 0 φ − E 0 ψ ) ≥ 0 k(E_0\varphi-E_0\psi)\ge0 k ( E 0 φ − E 0 ψ ) ≥ 0 0 0 0 ( φ − ψ ) ( f 1 − k f 0 ) = 0 (\varphi-\psi)(f_1-kf_0)=0 ( φ − ψ ) ( f 1 − k f 0 ) = 0 { f 1 ≠ k f 0 } \{f_1\ne kf_0\} { f 1 = k f 0 } ψ = φ \psi=\varphi ψ = φ
∎ 直観は「費用対効果 」です。棄却域に x x x f 0 ( x ) d μ f_0(x)\,d\mu f 0 ( x ) d μ f 1 ( x ) d μ f_1(x)\,d\mu f 1 ( x ) d μ f 1 / f 0 f_1/f_0 f 1 / f 0 α \alpha α
Neyman–Pearson の棄却域。帰無仮説 N(0,1)（細線）と対立仮説 N(2.5,1)（太線）。棄却域は x > c（c = 1.645）で、薄い網掛けは第 1 種の誤り α = 0.05、濃い網掛けは第 2 種の誤り β。 例 3.3 （正規分布の平均の検定（分散既知） ）
X i ∼ N ( μ , σ 2 ) X_i\sim N(\mu,\sigma^2) X i ∼ N ( μ , σ 2 ) σ 2 \sigma^2 σ 2 H 0 : μ = 0 H_0:\mu=0 H 0 : μ = 0 H 1 : μ = μ 1 > 0 H_1:\mu=\mu_1>0 H 1 : μ = μ 1 > 0 f 1 f 0 = exp ( μ 1 σ 2 ∑ x i − n μ 1 2 2 σ 2 ) \dfrac{f_1}{f_0}=\exp\Bigl(\dfrac{\mu_1}{\sigma^2}\sum x_i-\dfrac{n\mu_1^2}{2\sigma^2}\Bigr) f 0 f 1 = exp ( σ 2 μ 1 ∑ x i − 2 σ 2 n μ 1 2 ) x ˉ \bar x x ˉ x ˉ > c \bar x>c x ˉ > c α \alpha α c = z α σ / n c=z_\alpha\sigma/\sqrt n c = z α σ / n z α z_\alpha z α α \alpha α α = 0.05 \alpha=0.05 α = 0.05 1.645 1.645 1.645 β ( μ 1 ) = P μ 1 ( X ˉ > c ) = 1 − Φ ( z α − n μ 1 / σ ) \beta(\mu_1)=P_{\mu_1}(\bar X>c)=1-\Phi\bigl(z_\alpha-\sqrt n\mu_1/\sigma\bigr) β ( μ 1 ) = P μ 1 ( X ˉ > c ) = 1 − Φ ( z α − n μ 1 / σ ) 1 − β 0 1-\beta_0 1 − β 0 n ≥ ( ( z α + z β 0 ) σ / μ 1 ) 2 n\ge\bigl((z_\alpha+z_{\beta_0})\sigma/\mu_1\bigr)^2 n ≥ ( ( z α + z β 0 ) σ / μ 1 ) 2 α = 0.05 \alpha=0.05 α = 0.05 0.8 0.8 0.8 z 0.2 = 0.842 z_{0.2}=0.842 z 0.2 = 0.842 μ 1 / σ = 0.5 \mu_1/\sigma=0.5 μ 1 / σ = 0.5 n ≥ ( ( 1.645 + 0.842 ) / 0.5 ) 2 = 24.7 n\ge\bigl((1.645+0.842)/0.5\bigr)^2=24.7 n ≥ ( ( 1.645 + 0.842 ) /0.5 ) 2 = 24.7
例 3.4 （離散分布と確率化 ）
X ∼ B i n ( 10 , p ) X\sim\mathrm{Bin}(10,p) X ∼ Bin ( 10 , p ) H 0 : p = 1 2 H_0:p=\tfrac12 H 0 : p = 2 1 H 1 : p = 3 4 H_1:p=\tfrac34 H 1 : p = 4 3 ∝ 3 x \propto3^x ∝ 3 x x x x x ≥ c x\ge c x ≥ c P 0 ( X ≥ 8 ) = 0.0547 P_0(X\ge8)=0.0547 P 0 ( X ≥ 8 ) = 0.0547 P 0 ( X ≥ 9 ) = 0.0107 P_0(X\ge9)=0.0107 P 0 ( X ≥ 9 ) = 0.0107 α = 0.05 \alpha=0.05 α = 0.05 φ = 1 { x ≥ 9 } + γ 1 { x = 8 } \varphi=\mathbf 1\{x\ge9\}+\gamma\mathbf 1\{x=8\} φ = 1 { x ≥ 9 } + γ 1 { x = 8 } γ = 0.05 − 0.0107 0.0439 = 0.893 \gamma=\dfrac{0.05-0.0107}{0.0439}=0.893 γ = 0.0439 0.05 − 0.0107 = 0.893 E 0 φ = 0.05 E_0\varphi=0.05 E 0 φ = 0.05 0.0107 0.0107 0.0107
対立仮説が複合のとき、すべての対立仮説の母数で同時に最強力な検定を**一様最強力検定（UMP）**といいます。
定義 4.1 （UMP 検定 ） ↗
水準 α \alpha α φ \varphi φ UMP であるとは、水準 α \alpha α ψ \psi ψ θ ∈ Θ 1 \theta\in\Theta_1 θ ∈ Θ 1 β φ ( θ ) ≥ β ψ ( θ ) \beta_\varphi(\theta)\ge\beta_\psi(\theta) β φ ( θ ) ≥ β ψ ( θ )
UMP 検定が存在するための十分条件が、尤度比の単調性です。
定義 4.2 （単調尤度比 ） ↗
実母数 θ \theta θ { f θ } \{f_\theta\} { f θ } T T T θ < θ ′ \theta<\theta' θ < θ ′ f θ ′ ( x ) / f θ ( x ) f_{\theta'}(x)/f_\theta(x) f θ ′ ( x ) / f θ ( x ) T ( x ) T(x) T ( x )
指数型分布族 f θ = h e η ( θ ) T − A ( θ ) f_\theta=h\,e^{\eta(\theta)T-A(\theta)} f θ = h e η ( θ ) T − A ( θ ) η ( θ ) \eta(\theta) η ( θ ) θ \theta θ f θ ′ / f θ = exp ( ( η ( θ ′ ) − η ( θ ) ) T − ⋯ ) f_{\theta'}/f_\theta=\exp\bigl((\eta(\theta')-\eta(\theta))T-\cdots\bigr) f θ ′ / f θ = exp ( ( η ( θ ′ ) − η ( θ )) T − ⋯ ) T T T
補題 4.3 （MLR のもとでの検出力の単調性 ） ✓
{ f θ } \{f_\theta\} { f θ } T T T ψ \psi ψ θ ↦ E θ ψ ( T ) \theta\mapsto E_\theta\psi(T) θ ↦ E θ ψ ( T )
この補題は、検出力が母数とともに増えることを保証するもので、次の Karlin–Rubin の定理で「θ 0 \theta_0 θ 0 α \alpha α Λ \Lambda Λ 1 1 1 Λ \Lambda Λ 1 1 1 T T T ψ \psi ψ
証明（補題 4.3） θ < θ ′ \theta<\theta' θ < θ ′ Λ = f θ ′ / f θ \Lambda=f_{\theta'}/f_\theta Λ = f θ ′ / f θ T T T λ ( T ) \lambda(T) λ ( T ) E θ Λ = 1 E_\theta\Lambda=1 E θ Λ = 1 E θ ′ ψ ( T ) − E θ ψ ( T ) = E θ [ ( Λ − 1 ) ψ ( T ) ] E_{\theta'}\psi(T)-E_\theta\psi(T)=E_\theta[(\Lambda-1)\psi(T)] E θ ′ ψ ( T ) − E θ ψ ( T ) = E θ [( Λ − 1 ) ψ ( T )] λ \lambda λ 1 1 1 t 0 t_0 t 0 T < t 0 T<t_0 T < t 0 λ ( T ) ≤ 1 \lambda(T)\le1 λ ( T ) ≤ 1 T > t 0 T>t_0 T > t 0 λ ( T ) ≥ 1 \lambda(T)\ge1 λ ( T ) ≥ 1 λ ≤ 1 \lambda\le1 λ ≤ 1 λ ≥ 1 \lambda\ge1 λ ≥ 1 t 0 t_0 t 0 ψ \psi ψ ( Λ − 1 ) ( ψ ( T ) − ψ ( t 0 ) ) ≥ 0 (\Lambda-1)(\psi(T)-\psi(t_0))\ge0 ( Λ − 1 ) ( ψ ( T ) − ψ ( t 0 )) ≥ 0 E θ [ ( Λ − 1 ) ψ ( T ) ] ≥ ψ ( t 0 ) E θ [ Λ − 1 ] = 0 E_\theta[(\Lambda-1)\psi(T)]\ge\psi(t_0)E_\theta[\Lambda-1]=0 E θ [( Λ − 1 ) ψ ( T )] ≥ ψ ( t 0 ) E θ [ Λ − 1 ] = 0
∎ 定理 4.4 （Karlin–Rubin の定理 ） ✓
{ f θ } \{f_\theta\} { f θ } T T T H 0 : θ ≤ θ 0 H_0:\theta\le\theta_0 H 0 : θ ≤ θ 0 H 1 : θ > θ 0 H_1:\theta>\theta_0 H 1 : θ > θ 0 E θ 0 φ = α E_{\theta_0}\varphi=\alpha E θ 0 φ = α c , γ c,\gamma c , γ
φ ( x ) = { 1 T ( x ) > c γ T ( x ) = c 0 T ( x ) < c \varphi(x)=\begin{cases}1&T(x)>c\\\gamma&T(x)=c\\0&T(x)<c\end{cases} φ ( x ) = ⎩ ⎨ ⎧ 1 γ 0 T ( x ) > c T ( x ) = c T ( x ) < c とおくと、φ \varphi φ α \alpha α β φ ( θ ) \beta_\varphi(\theta) β φ ( θ ) θ \theta θ
証明（定理 4.4） φ \varphi φ T T T 補題 4.3 より β φ \beta_\varphi β φ sup θ ≤ θ 0 β φ ( θ ) = β φ ( θ 0 ) = α \sup_{\theta\le\theta_0}\beta_\varphi(\theta)=\beta_\varphi(\theta_0)=\alpha sup θ ≤ θ 0 β φ ( θ ) = β φ ( θ 0 ) = α φ \varphi φ α \alpha α θ 1 > θ 0 \theta_1>\theta_0 θ 1 > θ 0 H 0 ′ : θ = θ 0 H_0':\theta=\theta_0 H 0 ′ : θ = θ 0 H 1 ′ : θ = θ 1 H_1':\theta=\theta_1 H 1 ′ : θ = θ 1 Λ = f θ 1 / f θ 0 = λ ( T ) \Lambda=f_{\theta_1}/f_{\theta_0}=\lambda(T) Λ = f θ 1 / f θ 0 = λ ( T ) T T T k = λ ( c ) k=\lambda(c) k = λ ( c ) c c c T T T { T < c } \{T<c\} { T < c } { T > c } \{T>c\} { T > c } λ ( T ) > k \lambda(T)>k λ ( T ) > k T > c T>c T > c λ ( T ) < k \lambda(T)<k λ ( T ) < k T < c T<c T < c φ = 1 \varphi=1 φ = 1 { Λ > k } \{\Lambda>k\} { Λ > k } φ = 0 \varphi=0 φ = 0 { Λ < k } \{\Lambda<k\} { Λ < k } φ \varphi φ 定義 3.1 の形で、E θ 0 φ = α E_{\theta_0}\varphi=\alpha E θ 0 φ = α 定理 3.2 の 2（その証明は k ≥ 0 k\ge0 k ≥ 0 E θ 0 ψ ≤ α E_{\theta_0}\psi\le\alpha E θ 0 ψ ≤ α ψ \psi ψ E θ 1 ψ ≤ E θ 1 φ E_{\theta_1}\psi\le E_{\theta_1}\varphi E θ 1 ψ ≤ E θ 1 φ α \alpha α ψ \psi ψ E θ 0 ψ ≤ α E_{\theta_0}\psi\le\alpha E θ 0 ψ ≤ α θ 1 > θ 0 \theta_1>\theta_0 θ 1 > θ 0 β ψ ( θ 1 ) ≤ β φ ( θ 1 ) \beta_\psi(\theta_1)\le\beta_\varphi(\theta_1) β ψ ( θ 1 ) ≤ β φ ( θ 1 )
∎ したがって、正規分布の平均の片側 z z z X ˉ > c \bar X>c X ˉ > c
両側仮説には UMP 検定は存在しません。 正規分布の平均で H 0 : μ = 0 H_0:\mu=0 H 0 : μ = 0 H 1 : μ ≠ 0 H_1:\mu\ne0 H 1 : μ = 0 μ 1 > 0 \mu_1>0 μ 1 > 0 例 3.3 から { x ˉ > c } \{\bar x>c\} { x ˉ > c } { f 1 ≠ k f 0 } \{f_1\ne kf_0\} { f 1 = k f 0 } 定理 3.2 の 3 により a.e. 一意）。μ 1 < 0 \mu_1<0 μ 1 < 0 { x ˉ < − c } \{\bar x<-c\} { x ˉ < − c } φ \varphi φ μ 1 > 0 \mu_1>0 μ 1 > 0 μ 1 < 0 \mu_1<0 μ 1 < 0 φ = 1 { x ˉ > c } \varphi=\mathbf 1\{\bar x>c\} φ = 1 { x ˉ > c } φ = 1 { x ˉ < − c } \varphi=\mathbf 1\{\bar x<-c\} φ = 1 { x ˉ < − c } ∣ x ˉ ∣ > c ′ |\bar x|>c' ∣ x ˉ ∣ > c ′ α \alpha α
一般のモデルでは UMP 検定は存在しません。そこで、尤度比を使う汎用の検定を作ります。
定義 5.1 （尤度比検定統計量 ） ↗
H 0 : θ ∈ Θ 0 H_0:\theta\in\Theta_0 H 0 : θ ∈ Θ 0 H 1 : θ ∈ Θ ∖ Θ 0 H_1:\theta\in\Theta\setminus\Theta_0 H 1 : θ ∈ Θ ∖ Θ 0 尤度比 Λ n = sup θ ∈ Θ L n ( θ ) sup θ ∈ Θ 0 L n ( θ ) ≥ 1 \Lambda_n=\dfrac{\sup_{\theta\in\Theta}L_n(\theta)}{\sup_{\theta\in\Theta_0}L_n(\theta)}\ge1 Λ n = sup θ ∈ Θ 0 L n ( θ ) sup θ ∈ Θ L n ( θ ) ≥ 1 θ ^ n \hat\theta_n θ ^ n θ ^ n , 0 \hat\theta_{n,0} θ ^ n , 0 Θ 0 \Theta_0 Θ 0
2 log Λ n = 2 ( ℓ n ( θ ^ n ) − ℓ n ( θ ^ n , 0 ) ) . 2\log\Lambda_n=2\bigl(\ell_n(\hat\theta_n)-\ell_n(\hat\theta_{n,0})\bigr). 2 log Λ n = 2 ( ℓ n ( θ ^ n ) − ℓ n ( θ ^ n , 0 ) ) . 大きな値のとき H 0 H_0 H 0
この統計量の分布は一般には計算できません。しかし、n n n 自由度 r r r χ r 2 \chi^2_r χ r 2 は、Z 1 , … , Z r Z_1,\dots,Z_r Z 1 , … , Z r N ( 0 , 1 ) N(0,1) N ( 0 , 1 ) Z 1 2 + ⋯ + Z r 2 Z_1^2+\cdots+Z_r^2 Z 1 2 + ⋯ + Z r 2 線形モデル で扱います）。上側 5 % 5\% 5% χ 1 2 : 3.841 \chi^2_{1}:3.841 χ 1 2 : 3.841 χ 2 2 : 5.991 \chi^2_2:5.991 χ 2 2 : 5.991 χ 3 2 : 7.815 \chi^2_3:7.815 χ 3 2 : 7.815
多母数の場合に正則条件 (R) を拡張した条件を (Rk _k k とします：θ ∈ Θ ⊂ R k \theta\in\Theta\subset\mathbb R^k θ ∈ Θ ⊂ R k log f \log f log f θ \theta θ C 3 C^3 C 3 I ( θ ) = E [ s s T ] = − E [ ∇ 2 log f ] I(\theta)=E[s s^{\mathsf T}]=-E[\nabla^2\log f] I ( θ ) = E [ s s T ] = − E [ ∇ 2 log f ] θ 0 \theta_0 θ 0 M ( x ) M(x) M ( x ) E M < ∞ E M<\infty E M < ∞ 一致する根の存在（定理 5.2）［点推定と漸近理論］ と 漸近正規性（定理 6.1）［点推定と漸近理論］ が多母数版でも同じ証明で成り立つ（中心極限定理を Cramér–Wold の方法（系 4.9）［特性関数と Gauss ベクトル］ でベクトルに拡張する）ので、以下はそれを使います。
定理 5.2 （Wilks の定理 ） ✓
(Rk _k k θ = ( ψ , λ ) \theta=(\psi,\lambda) θ = ( ψ , λ ) ψ ∈ R r \psi\in\mathbb R^r ψ ∈ R r λ ∈ R k − r \lambda\in\mathbb R^{k-r} λ ∈ R k − r H 0 : ψ = ψ 0 H_0:\psi=\psi_0 H 0 : ψ = ψ 0 H 0 H_0 H 0 θ 0 = ( ψ 0 , λ 0 ) \theta_0=(\psi_0,\lambda_0) θ 0 = ( ψ 0 , λ 0 )
2 log Λ n → d χ r 2 . 2\log\Lambda_n\xrightarrow{d}\chi^2_r. 2 log Λ n d χ r 2 . とくに r = k r=k r = k 2 ( ℓ n ( θ ^ n ) − ℓ n ( θ 0 ) ) → χ k 2 2(\ell_n(\hat\theta_n)-\ell_n(\theta_0))\to\chi^2_k 2 ( ℓ n ( θ ^ n ) − ℓ n ( θ 0 )) → χ k 2
定理の中の局外母数とは、検定の対象ではないが、モデルには含まれていて推定が必要な母数のことです（正規分布の平均を調べるときの分散など）。証明の方針は、対数尤度を真の値のまわりで 2 次まで展開して、2 log Λ n 2\log\Lambda_n 2 log Λ n k k k k − r k-r k − r r r r
証明（定理 5.2） まず r = k = 1 r=k=1 r = k = 1 ℓ n ′ ( θ ^ ) = 0 \ell_n'(\hat\theta)=0 ℓ n ′ ( θ ^ ) = 0 θ 0 \theta_0 θ 0 θ ^ \hat\theta θ ^ θ ∗ \theta^* θ ∗ ℓ n ( θ 0 ) = ℓ n ( θ ^ ) + 1 2 ℓ n ′ ′ ( θ ∗ ) ( θ 0 − θ ^ ) 2 \ell_n(\theta_0)=\ell_n(\hat\theta)+\tfrac12\ell_n''(\theta^*)(\theta_0-\hat\theta)^2 ℓ n ( θ 0 ) = ℓ n ( θ ^ ) + 2 1 ℓ n ′′ ( θ ∗ ) ( θ 0 − θ ^ ) 2
2 ( ℓ n ( θ ^ ) − ℓ n ( θ 0 ) ) = [ − ℓ n ′ ′ ( θ ∗ ) n ] ⋅ [ n ( θ ^ − θ 0 ) ] 2 . 2\bigl(\ell_n(\hat\theta)-\ell_n(\theta_0)\bigr)=\Bigl[-\frac{\ell_n''(\theta^*)}n\Bigr]\cdot\bigl[\sqrt n(\hat\theta-\theta_0)\bigr]^2. 2 ( ℓ n ( θ ^ ) − ℓ n ( θ 0 ) ) = [ − n ℓ n ′′ ( θ ∗ ) ] ⋅ [ n ( θ ^ − θ 0 ) ] 2 . 漸近正規性（定理 6.1）［点推定と漸近理論］ の証明と同じく、θ ∗ → θ 0 \theta^*\to\theta_0 θ ∗ → θ 0 θ ^ → θ 0 \hat\theta\to\theta_0 θ ^ → θ 0 I ( θ 0 ) I(\theta_0) I ( θ 0 ) N ( 0 , 1 / I ( θ 0 ) ) 2 N(0,1/I(\theta_0))^2 N ( 0 , 1/ I ( θ 0 ) ) 2 スルツキーの定理（命題 6.1）［大数の法則と中心極限定理］ により積は I ( θ 0 ) ⋅ Z 2 / I ( θ 0 ) = Z 2 ∼ χ 1 2 I(\theta_0)\cdot Z^2/I(\theta_0)=Z^2\sim\chi^2_1 I ( θ 0 ) ⋅ Z 2 / I ( θ 0 ) = Z 2 ∼ χ 1 2 Z ∼ N ( 0 , 1 ) Z\sim N(0,1) Z ∼ N ( 0 , 1 )
一般の場合。R k \mathbb R^k R k S n = ∇ ℓ n ( θ 0 ) S_n=\nabla\ell_n(\theta_0) S n = ∇ ℓ n ( θ 0 ) W n = I − 1 / 2 S n / n W_n=I^{-1/2}S_n/\sqrt n W n = I − 1/2 S n / n I = I ( θ 0 ) I=I(\theta_0) I = I ( θ 0 ) I 1 / 2 I^{1/2} I 1/2 W n → d W ∼ N ( 0 , 1 k ) W_n\xrightarrow{d}W\sim N(0,\mathbb 1_k) W n d W ∼ N ( 0 , 1 k ) I I I t ↦ ℓ n ( θ ^ + t ( θ 0 − θ ^ ) ) t\mapsto\ell_n(\hat\theta+t(\theta_0-\hat\theta)) t ↦ ℓ n ( θ ^ + t ( θ 0 − θ ^ )) θ ^ \hat\theta θ ^
n ( θ ^ − θ 0 ) = I − 1 S n / n + o P ( 1 ) = I − 1 / 2 W n + o P ( 1 ) , 2 ( ℓ n ( θ ^ ) − ℓ n ( θ 0 ) ) = ∥ W n ∥ 2 + o P ( 1 ) . \sqrt n(\hat\theta-\theta_0)=I^{-1}S_n/\sqrt n+o_P(1)=I^{-1/2}W_n+o_P(1),\qquad2\bigl(\ell_n(\hat\theta)-\ell_n(\theta_0)\bigr)=\|W_n\|^2+o_P(1). n ( θ ^ − θ 0 ) = I − 1 S n / n + o P ( 1 ) = I − 1/2 W n + o P ( 1 ) , 2 ( ℓ n ( θ ^ ) − ℓ n ( θ 0 ) ) = ∥ W n ∥ 2 + o P ( 1 ) . 次に制限付き MLE θ ^ 0 = ( ψ 0 , λ ^ 0 ) \hat\theta_0=(\psi_0,\hat\lambda_0) θ ^ 0 = ( ψ 0 , λ ^ 0 ) H 0 H_0 H 0 λ \lambda λ f ( x ; ψ 0 , λ ) f(x;\psi_0,\lambda) f ( x ; ψ 0 , λ ) k − r _{k-r} k − r λ ^ 0 \hat\lambda_0 λ ^ 0 λ ^ 0 \hat\lambda_0 λ ^ 0 ∂ λ ℓ n ( ψ 0 , λ ) = 0 \partial_\lambda\ell_n(\psi_0,\lambda)=0 ∂ λ ℓ n ( ψ 0 , λ ) = 0 λ \lambda λ S n λ = E λ T S n S_n^\lambda=E_\lambda^{\mathsf T}S_n S n λ = E λ T S n E λ E_\lambda E λ λ \lambda λ k × ( k − r ) k\times(k-r) k × ( k − r )
n ( λ ^ 0 − λ 0 ) = I λ λ − 1 S n λ / n + o P ( 1 ) , I λ λ = E λ T I E λ . \sqrt n(\hat\lambda_0-\lambda_0)=I_{\lambda\lambda}^{-1}S_n^\lambda/\sqrt n+o_P(1),\qquad I_{\lambda\lambda}=E_\lambda^{\mathsf T}IE_\lambda. n ( λ ^ 0 − λ 0 ) = I λλ − 1 S n λ / n + o P ( 1 ) , I λλ = E λ T I E λ . 全体の場合と同様に 2 ( ℓ n ( θ ^ 0 ) − ℓ n ( θ 0 ) ) = ( S n λ ) T I λ λ − 1 S n λ / n + o P ( 1 ) 2(\ell_n(\hat\theta_0)-\ell_n(\theta_0))=(S_n^\lambda)^{\mathsf T}I_{\lambda\lambda}^{-1}S_n^\lambda/n+o_P(1) 2 ( ℓ n ( θ ^ 0 ) − ℓ n ( θ 0 )) = ( S n λ ) T I λλ − 1 S n λ / n + o P ( 1 ) B = I 1 / 2 E λ B=I^{1/2}E_\lambda B = I 1/2 E λ k × ( k − r ) k\times(k-r) k × ( k − r ) B T B = I λ λ B^{\mathsf T}B=I_{\lambda\lambda} B T B = I λλ P = B ( B T B ) − 1 B T P=B(B^{\mathsf T}B)^{-1}B^{\mathsf T} P = B ( B T B ) − 1 B T R k \mathbb R^k R k k − r k-r k − r W n T P W n W_n^{\mathsf T}PW_n W n T P W n S n / n = I 1 / 2 W n S_n/\sqrt n=I^{1/2}W_n S n / n = I 1/2 W n
2 log Λ n = 2 ( ℓ n ( θ ^ ) − ℓ n ( θ 0 ) ) − 2 ( ℓ n ( θ ^ 0 ) − ℓ n ( θ 0 ) ) = ∥ W n ∥ 2 − ∥ P W n ∥ 2 + o P ( 1 ) = ∥ ( 1 − P ) W n ∥ 2 + o P ( 1 ) . 2\log\Lambda_n=2\bigl(\ell_n(\hat\theta)-\ell_n(\theta_0)\bigr)-2\bigl(\ell_n(\hat\theta_0)-\ell_n(\theta_0)\bigr)=\|W_n\|^2-\|PW_n\|^2+o_P(1)=\|(\mathbb 1-P)W_n\|^2+o_P(1). 2 log Λ n = 2 ( ℓ n ( θ ^ ) − ℓ n ( θ 0 ) ) − 2 ( ℓ n ( θ ^ 0 ) − ℓ n ( θ 0 ) ) = ∥ W n ∥ 2 − ∥ P W n ∥ 2 + o P ( 1 ) = ∥ ( 1 − P ) W n ∥ 2 + o P ( 1 ) . x ↦ ∥ ( 1 − P ) x ∥ 2 x\mapsto\|(\mathbb 1-P)x\|^2 x ↦ ∥ ( 1 − P ) x ∥ 2 W n → d W W_n\xrightarrow{d}W W n d W ∥ ( 1 − P ) W n ∥ 2 → d ∥ ( 1 − P ) W ∥ 2 \|(\mathbb 1-P)W_n\|^2\xrightarrow{d}\|(\mathbb 1-P)W\|^2 ∥ ( 1 − P ) W n ∥ 2 d ∥ ( 1 − P ) W ∥ 2 1 − P \mathbb 1-P 1 − P r r r O O O O T ( 1 − P ) O = d i a g ( 1 r , 0 k − r ) O^{\mathsf T}(\mathbb 1-P)O=\mathrm{diag}(1_r,0_{k-r}) O T ( 1 − P ) O = diag ( 1 r , 0 k − r ) スペクトル定理（定理 4.2）［スペクトル定理］ ）、O W ∼ N ( 0 , 1 k ) OW\sim N(0,\mathbb 1_k) O W ∼ N ( 0 , 1 k ) Gauss ベクトルの構造（定理 5.2）［特性関数と Gauss ベクトル］ の 4）なので、∥ ( 1 − P ) W ∥ 2 \|(\mathbb 1-P)W\|^2 ∥ ( 1 − P ) W ∥ 2 O W OW O W r r r ∼ χ r 2 \sim\chi^2_r ∼ χ r 2 命題 6.1［大数の法則と中心極限定理］ で o P ( 1 ) o_P(1) o P ( 1 )
∎ 例 5.3 （二項比率の 3 つの検定統計量 ）
X ∼ B i n ( n , p ) X\sim\mathrm{Bin}(n,p) X ∼ Bin ( n , p ) H 0 : p = p 0 H_0:p=p_0 H 0 : p = p 0 尤度比 ：2 log Λ = 2 [ t log p ^ p 0 + ( n − t ) log 1 − p ^ 1 − p 0 ] 2\log\Lambda=2\bigl[t\log\frac{\hat p}{p_0}+(n-t)\log\frac{1-\hat p}{1-p_0}\bigr] 2 log Λ = 2 [ t log p 0 p ^ + ( n − t ) log 1 − p 0 1 − p ^ ] Wald ：( p ^ − p 0 ) 2 p ^ ( 1 − p ^ ) / n \dfrac{(\hat p-p_0)^2}{\hat p(1-\hat p)/n} p ^ ( 1 − p ^ ) / n ( p ^ − p 0 ) 2 1 / ( n I ( p ^ ) ) 1/(nI(\hat p)) 1/ ( n I ( p ^ )) スコア ：( p ^ − p 0 ) 2 p 0 ( 1 − p 0 ) / n \dfrac{(\hat p-p_0)^2}{p_0(1-p_0)/n} p 0 ( 1 − p 0 ) / n ( p ^ − p 0 ) 2 H 0 H_0 H 0 χ 1 2 \chi^2_1 χ 1 2 n = 100 n=100 n = 100 t = 62 t=62 t = 62 p 0 = 0.5 p_0=0.5 p 0 = 0.5 5.82 5.82 5.82 6.11 6.11 6.11 5.76 5.76 5.76 χ 1 , 0.95 2 = 3.841 \chi^2_{1,0.95}=3.841 χ 1 , 0.95 2 = 3.841 H 0 H_0 H 0 p p p 0.016 0.016 0.016
定義 6.1 （信頼集合 ） ↗
観測から作る母数空間の部分集合 C ( X ) C(X) C ( X ) 信頼係数 1 − α 1-\alpha 1 − α であるとは、すべての θ \theta θ P θ ( θ ∈ C ( X ) ) ≥ 1 − α P_\theta(\theta\in C(X))\ge1-\alpha P θ ( θ ∈ C ( X )) ≥ 1 − α Θ ⊂ R \Theta\subset\mathbb R Θ ⊂ R C C C 信頼区間 という。
信頼区間の 95% は、「この区間に真の値が入っている確率が 95%」ではなく、「この手続きを繰り返したとき、区間が真の値を覆う割合が 95%」という意味です。真の値は定数なので、データを得た後の区間について確率は 0 0 0 1 1 1
定理 6.2 （検定と信頼集合の双対性 ） ✓
各 θ 0 ∈ Θ \theta_0\in\Theta θ 0 ∈ Θ H 0 : θ = θ 0 H_0:\theta=\theta_0 H 0 : θ = θ 0 α \alpha α A ( θ 0 ) A(\theta_0) A ( θ 0 ) H 0 H_0 H 0 x x x C ( x ) = { θ 0 : x ∈ A ( θ 0 ) } C(x)=\{\theta_0:x\in A(\theta_0)\} C ( x ) = { θ 0 : x ∈ A ( θ 0 )} 1 − α 1-\alpha 1 − α C ( x ) C(x) C ( x ) A ( θ 0 ) = { x : θ 0 ∈ C ( x ) } A(\theta_0)=\{x:\theta_0\in C(x)\} A ( θ 0 ) = { x : θ 0 ∈ C ( x )} α \alpha α
証明（定理 6.2） x ∈ A ( θ ) ⟺ θ ∈ C ( x ) x\in A(\theta)\iff\theta\in C(x) x ∈ A ( θ ) ⟺ θ ∈ C ( x ) P θ ( θ ∈ C ( X ) ) = P θ ( X ∈ A ( θ ) ) ≥ 1 − α P_\theta(\theta\in C(X))=P_\theta(X\in A(\theta))\ge1-\alpha P θ ( θ ∈ C ( X )) = P θ ( X ∈ A ( θ )) ≥ 1 − α α \alpha α H 0 H_0 H 0 α \alpha α
∎ したがって、良い検定は良い信頼区間を与えます 。例 3.3 の z z z ∣ x ˉ − μ 0 ∣ ≤ z α / 2 σ / n |\bar x-\mu_0|\le z_{\alpha/2}\sigma/\sqrt n ∣ x ˉ − μ 0 ∣ ≤ z α /2 σ / n σ 2 \sigma^2 σ 2 X ˉ ± z α / 2 σ / n \bar X\pm z_{\alpha/2}\sigma/\sqrt n X ˉ ± z α /2 σ / n
漸近的には、3 つの検定統計量がそれぞれ区間を与えます。
定理 6.3 （漸近信頼区間 ） ✓
(R) のもとで、θ ^ n \hat\theta_n θ ^ n z α / 2 z_{\alpha/2} z α /2 α / 2 \alpha/2 α /2 I ( θ ) I(\theta) I ( θ )
Wald 区間 θ ^ n ± z α / 2 / n I ( θ ^ n ) \hat\theta_n\pm z_{\alpha/2}/\sqrt{nI(\hat\theta_n)} θ ^ n ± z α /2 / n I ( θ ^ n ) n → ∞ n\to\infty n → ∞ 1 − α 1-\alpha 1 − α 尤度比区間 { θ : 2 ( ℓ n ( θ ^ n ) − ℓ n ( θ ) ) ≤ χ 1 , 1 − α 2 } \{\theta:2(\ell_n(\hat\theta_n)-\ell_n(\theta))\le\chi^2_{1,1-\alpha}\} { θ : 2 ( ℓ n ( θ ^ n ) − ℓ n ( θ )) ≤ χ 1 , 1 − α 2 } 1 − α 1-\alpha 1 − α 証明（定理 6.3）
θ 0 \theta_0 θ 0 定理 6.1［点推定と漸近理論］ より n I ( θ 0 ) ( θ ^ n − θ 0 ) → d N ( 0 , 1 ) \sqrt{nI(\theta_0)}(\hat\theta_n-\theta_0)\xrightarrow{d}N(0,1) n I ( θ 0 ) ( θ ^ n − θ 0 ) d N ( 0 , 1 ) θ ^ n → θ 0 \hat\theta_n\to\theta_0 θ ^ n → θ 0 I I I I ( θ ^ n ) / I ( θ 0 ) → P 1 \sqrt{I(\hat\theta_n)/I(\theta_0)}\xrightarrow{P}1 I ( θ ^ n ) / I ( θ 0 ) P 1 n I ( θ ^ n ) ( θ ^ n − θ 0 ) → d N ( 0 , 1 ) \sqrt{nI(\hat\theta_n)}(\hat\theta_n-\theta_0)\xrightarrow{d}N(0,1) n I ( θ ^ n ) ( θ ^ n − θ 0 ) d N ( 0 , 1 ) ∣ n I ( θ ^ n ) ( θ ^ n − θ 0 ) ∣ ≤ z α / 2 |\sqrt{nI(\hat\theta_n)}(\hat\theta_n-\theta_0)|\le z_{\alpha/2} ∣ n I ( θ ^ n ) ( θ ^ n − θ 0 ) ∣ ≤ z α /2 P ( ∣ Z ∣ ≤ z α / 2 ) = 1 − α P(|Z|\le z_{\alpha/2})=1-\alpha P ( ∣ Z ∣ ≤ z α /2 ) = 1 − α 2 ( ℓ n ( θ ^ n ) − ℓ n ( θ 0 ) ) ≤ χ 1 , 1 − α 2 2(\ell_n(\hat\theta_n)-\ell_n(\theta_0))\le\chi^2_{1,1-\alpha} 2 ( ℓ n ( θ ^ n ) − ℓ n ( θ 0 )) ≤ χ 1 , 1 − α 2 定理 5.2 により統計量は χ 1 2 \chi^2_1 χ 1 2 χ 1 2 \chi^2_1 χ 1 2 1 − α 1-\alpha 1 − α ∎ 例 6.4 （小標本での比率の信頼区間 ）
n = 20 n=20 n = 20 t = 2 t=2 t = 2 p ^ = 0.1 \hat p=0.1 p ^ = 0.1 95 % 95\% 95% Wald 区間 ：0.1 ± 1.96 0.1 ⋅ 0.9 / 20 = ( − 0.031 , 0.231 ) 0.1\pm1.96\sqrt{0.1\cdot0.9/20}=(-0.031,\ 0.231) 0.1 ± 1.96 0.1 ⋅ 0.9/20 = ( − 0.031 , 0.231 ) 尤度比区間 ：2 ( ℓ ( p ^ ) − ℓ ( p ) ) ≤ 3.841 2(\ell(\hat p)-\ell(p))\le3.841 2 ( ℓ ( p ^ ) − ℓ ( p )) ≤ 3.841 ( 0.017 , 0.278 ) (0.017,\ 0.278) ( 0.017 , 0.278 ) スコア（Wilson）区間 ：スコア検定の受容域 ∣ p ^ − p ∣ ≤ z p ( 1 − p ) / n |\hat p-p|\le z\sqrt{p(1-p)/n} ∣ p ^ − p ∣ ≤ z p ( 1 − p ) / n p p p ( p ^ − p ) 2 ≤ z 2 p ( 1 − p ) / n (\hat p-p)^2\le z^2p(1-p)/n ( p ^ − p ) 2 ≤ z 2 p ( 1 − p ) / n p p p
p ^ + z 2 2 n ± z p ^ ( 1 − p ^ ) n + z 2 4 n 2 1 + z 2 n \frac{\hat p+\frac{z^2}{2n}\pm z\sqrt{\frac{\hat p(1-\hat p)}n+\frac{z^2}{4n^2}}}{1+\frac{z^2}n} 1 + n z 2 p ^ + 2 n z 2 ± z n p ^ ( 1 − p ^ ) + 4 n 2 z 2 に等しく、n = 20 n=20 n = 20 p ^ = 0.1 \hat p=0.1 p ^ = 0.1 ( 0.028 , 0.301 ) (0.028,\ 0.301) ( 0.028 , 0.301 ) p p p n → ∞ n\to\infty n → ∞
演習 7.1 標準
X 1 , … , X n X_1,\dots,X_n X 1 , … , X n E x p ( λ ) \mathrm{Exp}(\lambda) Exp ( λ ) H 0 : λ = λ 0 H_0:\lambda=\lambda_0 H 0 : λ = λ 0 H 1 : λ = λ 1 H_1:\lambda=\lambda_1 H 1 : λ = λ 1 λ 1 < λ 0 \lambda_1<\lambda_0 λ 1 < λ 0 H 1 : λ < λ 0 H_1:\lambda<\lambda_0 H 1 : λ < λ 0
解答 尤度比 f 1 f 0 = ( λ 1 λ 0 ) n exp ( ( λ 0 − λ 1 ) ∑ x i ) \dfrac{f_1}{f_0}=\Bigl(\dfrac{\lambda_1}{\lambda_0}\Bigr)^n\exp\bigl((\lambda_0-\lambda_1)\sum x_i\bigr) f 0 f 1 = ( λ 0 λ 1 ) n exp ( ( λ 0 − λ 1 ) ∑ x i ) λ 0 − λ 1 > 0 \lambda_0-\lambda_1>0 λ 0 − λ 1 > 0 T = ∑ x i T=\sum x_i T = ∑ x i T > c T>c T > c T ∼ G a m m a ( n , λ 0 ) T\sim\mathrm{Gamma}(n,\lambda_0) T ∼ Gamma ( n , λ 0 ) c c c α \alpha α λ 1 < λ 0 \lambda_1<\lambda_0 λ 1 < λ 0 λ = λ 0 \lambda=\lambda_0 λ = λ 0 λ < λ 0 \lambda<\lambda_0 λ < λ 0 λ \lambda λ θ = − λ \theta=-\lambda θ = − λ 定理 4.4 そのもの。
演習 7.2 易
σ = 2 \sigma=2 σ = 2 H 0 : μ = 0 H_0:\mu=0 H 0 : μ = 0 H 1 : μ = 1 H_1:\mu=1 H 1 : μ = 1 α = 0.05 \alpha=0.05 α = 0.05 0.9 0.9 0.9 z 0.1 = 1.282 z_{0.1}=1.282 z 0.1 = 1.282 n n n
解答 n ≥ ( ( 1.645 + 1.282 ) ⋅ 2 / 1 ) 2 = 34.3 n\ge\bigl((1.645+1.282)\cdot2/1\bigr)^2=34.3 n ≥ ( ( 1.645 + 1.282 ) ⋅ 2/1 ) 2 = 34.3 n = 35 n=35 n = 35
演習 7.3 標準
X i ∼ N ( 0 , σ 2 ) X_i\sim N(0,\sigma^2) X i ∼ N ( 0 , σ 2 ) 0 0 0 H 0 : σ 2 = σ 0 2 H_0:\sigma^2=\sigma_0^2 H 0 : σ 2 = σ 0 2 2 log Λ n 2\log\Lambda_n 2 log Λ n S = ∑ X i 2 / σ 0 2 S=\sum X_i^2/\sigma_0^2 S = ∑ X i 2 / σ 0 2 n n n
解答 σ ^ 2 = 1 n ∑ X i 2 \hat\sigma^2=\frac1n\sum X_i^2 σ ^ 2 = n 1 ∑ X i 2 ℓ = − n 2 log σ 2 − ∑ x i 2 2 σ 2 \ell=-\frac n2\log\sigma^2-\frac{\sum x_i^2}{2\sigma^2} ℓ = − 2 n log σ 2 − 2 σ 2 ∑ x i 2 2 log Λ n = 2 ( ℓ ( σ ^ 2 ) − ℓ ( σ 0 2 ) ) = − n log σ ^ 2 σ 0 2 − n + ∑ x i 2 σ 0 2 2\log\Lambda_n=2(\ell(\hat\sigma^2)-\ell(\sigma_0^2))=-n\log\frac{\hat\sigma^2}{\sigma_0^2}-n+\frac{\sum x_i^2}{\sigma_0^2} 2 log Λ n = 2 ( ℓ ( σ ^ 2 ) − ℓ ( σ 0 2 )) = − n log σ 0 2 σ ^ 2 − n + σ 0 2 ∑ x i 2 S = n σ ^ 2 / σ 0 2 S=n\hat\sigma^2/\sigma_0^2 S = n σ ^ 2 / σ 0 2 2 log Λ n = S − n − n log ( S / n ) 2\log\Lambda_n=S-n-n\log(S/n) 2 log Λ n = S − n − n log ( S / n ) H 0 H_0 H 0 定理 5.2 により χ 1 2 \chi^2_1 χ 1 2 S ∼ χ n 2 S\sim\chi^2_n S ∼ χ n 2
演習 7.4 標準
連続な検定統計量で H 0 H_0 H 0 p ≤ 0.05 p\le0.05 p ≤ 0.05 p ≤ 0.05 p\le0.05 p ≤ 0.05
解答 命題 2.2 より各回 P ( p ≤ 0.05 ) = 0.05 P(p\le0.05)=0.05 P ( p ≤ 0.05 ) = 0.05 B i n ( 100 , 0.05 ) \mathrm{Bin}(100,0.05) Bin ( 100 , 0.05 ) 5 5 5 1 − 0.95 100 = 0.994 1-0.95^{100}=0.994 1 − 0.9 5 100 = 0.994 α / 100 \alpha/100 α /100
E. L. Lehmann and Joseph P. Romano, Testing Statistical Hypotheses , 3rd ed., Springer, 2005 — 第 3 章（Neyman–Pearson と UMP）、第 12 章（漸近理論）。
J. Neyman and E. S. Pearson, “On the Problem of the Most Efficient Tests of Statistical Hypotheses”, Philosophical Transactions of the Royal Society A 231 (1933), 289–337。
S. S. Wilks, “The Large-Sample Distribution of the Likelihood Ratio for Testing Composite Hypotheses”, Annals of Mathematical Statistics 9 (1938), 60–62。
A. W. van der Vaart, Asymptotic Statistics , Cambridge University Press, 1998 — 第 16 章（尤度比検定）。
Lawrence D. Brown, T. Tony Cai and Anirban DasGupta, “Interval Estimation for a Binomial Proportion”, Statistical Science 16 (2001), 101–133。