久々になりましたが統計学基礎の解説に戻ります。
問14は3章の別の問題の結果を多用しすぎていて
正直解説が若干めんどくさい、、、ので問15。
母数θを用いた関数の不偏推定量について
与えられるクラメールラオの不等式の問題です。
コーシーシュバルツの不等式を用いて証明していきます。
コーシーシュバルツの不等式はネットで検索してみてください。
2乗の和≧各数積の和の2乗というのですね。
期待値について用いると以下のような使い方になります。
\[
\{E[(\hat{h}(x) – h(\theta)) S_n(\theta, x)]\}^2 \leq E[\{\hat{h}(x) – h(\theta)\}^2] E[\{S_n(\theta, x)\}^2]
\]
ここで右辺は
\[
E[\{\hat{h}(x) – h(\theta)\}^2] E[\{S_n(\theta, x)\}^2]
\]
\[
= \operatorname{Var}(\hat{h}) I_n(\theta)
\]
となります。
\( h(\theta) \) の不偏推定量が \( \hat{h}(x) \) なので
逆に言えば、\( \hat{h}(x) \) の期待値は必ず \( h(\theta) \) になります。
なので分散の定義に当てはまるわけです。
この時点でかなり解答に近づいています。
あとは左辺の中括弧の中身を \( h'(\theta) \) に変換できれば証明できます。
まず左辺を展開して
\[
E[(\hat{h}(x) – h(\theta)) S_n(\theta, x)]
\]
\[
= E[\hat{h}(x) S_n(\theta, x)] – E[h(\theta) S_n(\theta, x)]
\]
となります。
ここで
\[
E[S_n(\theta, x)] = \int \frac{\frac{d}{d\theta} f_n(x|\theta)}{f_n(x|\theta)} f_n(x|\theta) dx
\]
\[
= \frac{d}{d\theta} \int f_n(x|\theta) dx = 0
\]
なので第2項は消えます。
第1項は
\[
E[\hat{h}(x) S_n(\theta, x)] = \int \hat{h}(x) \frac{\frac{d}{d\theta} f_n(x|\theta)}{f_n(x|\theta)} f_n(x|\theta) dx
\]
\[
= \frac{d}{d\theta} \int \hat{h}(x) f_n(x|\theta) dx
\]
\[
= \frac{d}{d\theta} E[\hat{h}] = \frac{d}{d\theta} h(\theta) = h'(\theta)
\]
となるので
\[
Var_\theta (\hat{h}) \geq \frac{\{h'(\theta)\}^2}{n I_1(\theta)}
\]
が証明されました。
コメントを残す