現代数理統計学の基礎　7章　問1 (2)

引き続きまして7章の問題です。

平均が既知で、分散未知の場合の、正規分布の尤度比検定、ワルド検定、スコア検定ですね。

公式の解答はやや凝ったやり方なように見えるのですが、通常通りのやり方に沿ってもできるように思います。

まずは尤度比検定から。

帰無仮説が成り立たない場合の、最尤推定量を最初に考えておきますと、対数尤度関数を分散で微分して

\[ \frac{\partial}{\partial\sigma^2} \log L(\sigma^2) \\ = -\frac{n}{2\sigma^2} + \frac{1}{2\sigma^4} \sum (X_i – \mu)^2 \]

最尤推定量はこれを \( = 0 \) として変形することで

\[ \hat{\sigma}^2 = \frac{1}{n} \sum (X_i – \mu)^2 \]

となります。

では次に尤度比（ \( \lambda(x) \) ）に -2 log をつけたものを計算すると

\[ -2\log\lambda(x) = -2\log L(\sigma_0^2) + 2\log L(\hat{\sigma}^2) \\ = n\log 2\pi + n\log \sigma_0^2 + \frac{1}{\sigma_0^2} \sum (X_i – \mu)^2 – n\log 2\pi – n\log \hat{\sigma}^2 – \frac{1}{\hat{\sigma}^2} \sum (X_i – \mu)^2 \\ = -n\log \frac{\hat{\sigma}^2}{\sigma_0^2} + n\frac{\hat{\sigma}^2}{\sigma_0^2} – n \]

となります。

最後の式変形は最尤推定量の式を用いて

\[ n\hat{\sigma}^2 = \sum (X_i – \mu)^2 \]

を代入して変形しました。

これがカイ二乗分布に従いますので、式を整理して

\[ n \left( -\log \frac{\hat{\sigma}^2}{\sigma_0^2} + \frac{\hat{\sigma}^2}{\sigma_0^2} – 1 \right) > \chi^2_{1,\alpha} \]

となります。

続いてワルド検定です。

前問と同様に、この式を利用します。

\(\sqrt{nI_1(\hat\sigma^2)}(\hat\sigma^2-\sigma_0^2)\sim N(0,1)\)

こちらはデータ１個分のフィッシャー情報量を代入すればワルド検定に必要な正規分布を出すことができます。

フィッシャー情報量を求めていくと、確率密度関数の対数をとったものを分散で2回微分して負の期待値をとればよいので、まず1回微分が

\[ \{ \log f(x) \}’ = -\frac{1}{2\sigma^2} + \frac{(x – \mu)^2}{2\sigma^4} \]

2回微分して

\[ \{ \log f(x) \}” = \frac{1}{2\sigma^4} – \frac{(x – \mu)^2}{\sigma^6} \]

これの期待値にマイナスをかけると

\[ E[\{ \log f(x) \}”] = -\frac{1}{2\sigma^4} + \frac{1}{\sigma^6} E[x^2 – 2\mu x + \mu^2] \]

\[ = -\frac{1}{2\sigma^4} + \frac{1}{\sigma^6} (\sigma^2 + \mu^2 – 2\mu^2 + \mu^2) \]

\[ = -\frac{1}{2\sigma^4} + \frac{1}{\sigma^6} \sigma^2 \]

\[ = \frac{1}{2\sigma^4} \]

これがデータ1個分のフィッシャー情報量になります。

よって最初の式にこれを当てはめれば

\[ \sqrt{\frac{n}{2\sigma^4}} (\hat{\sigma}^2 – \sigma_0^2) \sim N(0,1) \]

となるので二乗して棄却域を考えると

\[ \frac{n}{2\sigma^4} (\hat{\sigma}^2 – \sigma_0^2)^2 > \chi^2_{1,\alpha} \]

となります。

では、最後にスコア検定。これも前の問題と同じで、帰無仮説のもとに以下の式が成り立ちます。

\[ \frac{S(\sigma_0^2)}{\sqrt{n I_1(\sigma_0^2)}} \sim N(0,1) \]

まずスコア関数を計算すると

\[ S(\sigma_0^2) = \frac{\partial}{\partial\sigma^2} \left(-\frac{n}{2} \log 2\pi – \frac{n}{2} \log \sigma_0^2 – \frac{1}{2\sigma_0^2} \sum (X_i – \mu)^2 \right) \]

\[ = -\frac{n}{2\sigma_0^2} + \frac{1}{2\sigma_0^4} \sum (X_i – \mu)^2 \]

\[ = \frac{n\hat{\sigma}^2}{2\sigma_0^4} – \frac{n}{2\sigma_0^4} \]

となります。

フィッシャー情報量はワルド検定の部分で出していますので

\[ I_1(\sigma_0^2) = \frac{1}{2\sigma_0^4} \]

となります。

これを最初の式に代入すると

\[ \sqrt{\frac{n}{2\sigma_0^4}} (\hat{\sigma}^2 – \sigma_0^2) \sim N(0,1) \]

2乗すると以下のようになります。

\[ \frac{n}{2\sigma_0^4} (\hat{\sigma}^2 – \sigma_0^2)^2 > \chi^2_{1,\alpha} \]