現代数理統計学の基礎　7章　問7(1)(2)

代表的な確率分布の特性についてまとめおわったところで、問7です。

確率分布の特徴と関連するので、記事を参考にしながらご覧ください。

medibook.hatenablog.com

まずは（1）

指数分布の確率関数の和の分布を求める問題ですね。

指数分布はガンマ分布の特殊版であることに気づけば容易です。ガンマ分布は和の再生性があるため、足し合わせた結果が簡単にわかります。

\[
\text{Ex}(\theta) \sim Ga(1, \theta)
\]

なので

\[
\sum_{i=1}^n X_i \sim Ga(n, \theta)
\]

となります。

※解答も本書の方も \(\text{Ga}(1,\frac{1}{\theta})\) と書かれていると思いますが、二つ目のパラメータの書き方が一般的でないので、単純に \(\theta\) と記載します。

同様にして

\[
\sum_{i=1}^m Y_i \sim Ga(m, \mu)
\]

続いて（2）。オーソドックスな尤度比検定の問題です。

まず尤度関数は互いに独立であるため、二つの尤度関数の積で表されます。

\[
\theta^n\mu^m \exp(-\theta\sum X_i – \mu\sum Y_i)
\]

続いて、帰無仮説と対立仮説の時の MLE（最尤推定量）を求めます。

① まず帰無仮説が成り立つとき

尤度関数は

\[
L = \theta^{n+m} \exp\{-\theta(\sum X_i + \sum Y_i)\}
\]

対数尤度関数にすると

\[
\log L = (n+m)\log\theta – \theta(\sum X_i + \sum Y_i)
\]

さらにパラメータ \(\theta\) で微分して

\[
\log L’ = \frac{n+m}{\theta} – (\sum X_i + \sum Y_i)
\]

\(=0\) として、整理すると

\[
\hat\theta_{MLE} = \frac{n+m}{\sum X_i + \sum Y_i}
\]

となります。

② 次に、対立仮説の場合

各々の最尤推定量を求めます。まず対数尤度関数は

\[
\log L = n\log\theta – \theta\sum X_i
\]

パラメータで微分して

\[
\log L’ = \frac{n}{\theta} – \sum X_i
\]

\(=0\) として、整理すると

\[
\hat\theta_{MLE} = \frac{n}{\sum X_i} = \frac{1}{\bar X}
\]

※ \(\bar X = \frac{1}{n} \sum X_i\) としました。

同様にして

\[
\hat\mu_{MLE} = \frac{m}{\sum Y_i} = \frac{1}{\bar Y}
\]

となります。

これで材料は出揃ったので、それぞれの最尤推定量を尤度関数に代入し、尤度比を求めます。

\[
\lambda = \frac{\left(\frac{1}{\bar X}\right)^n \left(\frac{1}{\bar Y}\right)^m \exp\{-(n+m)\}}{\left(\frac{n+m}{n\bar X+m\bar Y}\right)^{n+m} \exp\left\{-\frac{n+m}{n\bar X+m\bar Y}(n\bar X+m\bar Y)\right\}}
\]

\[
= \frac{(n\bar X+m\bar Y)^{n+m}}{(n+m)^{n+m} (\bar X)^n (\bar Y)^m}
\]

\(\exp\) は綺麗に消えました。

あとは \(2\log\) をつけると、カイ二乗分布に従うことを利用して、尤度比検定は

\[
2\log\lambda
= 2(n+m)\log(n\bar X+m\bar Y) – 2(n+m)\log(n+m) – 2n\log\bar X – 2m\log\bar Y
\]

\[
= 2n\log\frac{\bar X}{n\bar X+m\bar Y} – 2m\log\frac{\bar Y}{n\bar X+m\bar Y} – 2(n+m)\log(n+m)
\]

\[
= 2n\frac{Z}{n} – 2m\frac{1-Z}{m} – 2(n+m)\log(n+m) < \chi_{1,\alpha}^2 \]

となります。検定が統計量 \(Z\) に従うことも示せました。

※公式の解答はここが \(Z/n\) ではなく \(nZ\) になっているのですが、何回か計算しても公式の方のミスな気がしてなりません。わかる方がいたらご教示ください。

（3）は次回に回します。

(＊2021.04.25追記：指摘を頂き、最後の不等号が逆になっていたので直しました)

(＊2021.10.20追記：指摘を頂き、尤度比 \(2\log\lambda\) がカイ二乗分布に従う、と修正しました)