※ブログ記事の商品・サービスリンクにはアフィリエイトリンクが含まれます。

統計2022.03.25

マルコフの不等式～チェビシェフの不等式～大数の弱法則を復習【統計検定1級対策】

最近は統計検定1級の教本をみながら問題を解きつつ範囲の確認をしています。

日本統計学会公式認定統計検定1級対応統計学

日本統計学会公式認定統計検定1級対応統計学

作者:二宮嘉行,大西俊郎,小林景,椎名洋,笛田薫,田中研太郎,岡田謙介,大屋幸輔,廣瀬英雄,折笠秀樹
発売日: 2013/04/08
メディア: 単行本

中々最初の方の内容はもう忘れてしまっていることも多く、つまずきながらの確認となっているのですが、、、。

今回は第3章の統計学的推定の練習問題をネタにしながら復習をしていこうと思います。タイトルについてのことが気になる方は下の方まで飛ばしていってください。

練習問題問3.1ですが

$X_1, X_2, …X_n$ を確率密度関数 $f(x;\theta)=\theta(1+x)^{-(1+\theta)}(\theta, x\gt0)$ をもつ分布に従う母集団から取られた無作為標本とする。以下の問いに答えよ。（統計検定1級対応　統計学p.85より）

というものです。

(1)からみてみます。

(1)はY=log(1+X)と変数変換するときのYの確率密度関数と平均、分散を求めよというものです。

$1+x=e^y\\x=e^y-1(y\gt0)\\dx=e^ydy$ となるので

$f(x;\theta)=f(e^y-1;\theta)\\=\theta e^{-y(1+\theta)}e^y\\=\theta e^{-\theta}$

となります。

平均は $\theta y=t$ とかに変換すればガンマ関数になって計算できるので $\frac{1}{\theta}$

分散も同様にして $\frac{2}{\theta^2}$ となります。ほぼ割愛。

で、問題は(2)なんですが

$T=\sum_{i=1}^nlog(X_i+1)$ が $\frac{1}{\theta}$ の一致推定量であることを示す問題です。

本書の解答をみると、、、(2)省略、と。

いやなんか書いてよ。

と思うわけですが、このTという統計量はみてみるとYの標本平均ということになりそうです。

一致推定量というのは「n→∞としたときに推定量 $\hat\theta→\theta$ となる場合に、 $\hat\theta$ は $\theta$ の一致推定量となる。」というものでした。

今回の場合これは、標本平均が（１）で求めた平均に一致するということなので、大数の弱法則が示せればいいと思われます。そこで、ここまでは細かくいらない気がしますが

①マルコフの不等式

②チェビシェフの不等式

③大数の弱法則

の証明の流れを復習しました。

①マルコフの不等式

非負となる確率変数Ｘと任意の定数ｃに対して

$P(X\geq c)\leq\frac{E[X]}{c}$ が成り立つ。

（証明）

積分は非負となることと、c～∞の範囲ではxf(x)の積分はcf(x)より大きくなることを利用します。

$E[X]=\int_{0}^{\infty}xf(x)dx=\int_{0}^{c}xf(x)dx+\int_{c}^{\infty}xf(x)dx\\\geq\int_{c}^{\infty}xf(x)dx\\\geq\int_{c}^{\infty}cf(x)dx\\=cP(X\geq c)$

②チェビシェフの不等式

任意の実数k>0に対して

$P(|X-\mu|\geq k\sigma)\lt\frac{1}{k^2}$

が成立する。

（証明）

マルコフの不等式において

$X=(X-\mu)^2, c=k^2\sigma^2$ とおきます。

すると

$P((X-\mu)^2\geq k^2\sigma^2)\leq\frac{E[(X-\mu)^2]}{k^2\sigma^2}\\$

$E[(X-\mu)^2]$ は分散の定義になるので割ると、右辺は $\frac{1}{k^2}$ となり、2乗を整理すると目的の不等式が得られます。

③大数の弱法則

チェビシェフの不等式において

$X=\overline{X}, k\sigma=\epsilon$ とおいてみると標本平均の分散であることから $\sigma^2=\frac{\sigma^2}{n}$ になるので

$P(|\overline{X}-\mu|\geq\epsilon)\leq\frac{\sigma^2}{n\epsilon^2}$ となる。

n→∞のとき右辺が0になるため標本平均は母平均μに一致する。

と、ここまで丁寧にやる必要は全くなさそうですがこれで解答は示せました。続いての問題が不偏推定量とクラメールラオの下限の話なので、次はそこをまとめます。

FOLLOW

コメントを残すコメントをキャンセル

スコア関数～フィッシャー情報量～クラメール・ラオの下限を復習【統計検定1級対策】

脳波について自習してみる②　-非突発性徐波-