【疑問】一致推定量って「データを増やせば正しくなる」ってだけ？不偏推定量と何が違うん【統計検定準1級】

一致推定量って、データを増やしたら真の値に近づく推定量のことやろ
不偏推定量とどう違うんや。同じようなもんちゃうの

＞＞1
定義のおさらい。推定量 ${\hat{\theta }}_n$ が、どんな $\epsilon >0$ についても

を満たすとき一致推定量という。$\theta$ に確率収束する、ってこと
不偏性は「平均すると $\theta$」、一致性は「$n$ を増やすと $\theta$ の近くに集まる」で、見てるものが違う

＞＞2
不偏やったら、一致もしてるんちゃうの

＞＞3
してないこともある。$n$ 個データがあっても、1個目の $X_1$ だけを使う推定量は、平均の推定として不偏
でも $n$ をいくら増やしても $X_1$ のばらつきは ${\sigma }^2$ のままで縮まん。だから一致推定量やない

＞＞4
逆に、偏ってるのに一致する推定量は？

＞＞5
偏差の2乗和を $n$ で割る分散の推定量がそう。期待値は $\frac{n-1}{n}{\sigma }^2$ で少し小さいけど、偏りは $n$ が大きくなると0に近づく
ばらつきも小さくなっていくから、一致推定量になる

一致するかどうか、どうやって確かめるん

＞＞7
平均二乗誤差（偏りの2乗＋分散）が0に近づけば一致する
マルコフの不等式から $P(|{\hat{\theta }}_n-\theta |>\epsilon )\le E[({\hat{\theta }}_n-\theta {)}^2]/{\epsilon }^2$ で、右辺が0に行くから
偏りも分散も $n\to \infty$ で0に行けば、それで十分

＞＞8
具体例で

＞＞9
0から $\theta$ の一様分布で、最大値 $X_{(n)}$ を推定量にする。$\theta =10$ のとき、真の値から0.5以上下にずれる確率は

$n=10$ で約0.60、$n=50$ で約0.077、$n=100$ で約0.006。どんどん0に近づくから一致推定量

一致しない推定量って、現実にある？

＞＞11
標準コーシー分布の標本平均がそう。何個平均しても、元と同じコーシー分布のまま
$|{\bar{X}}_n|>3$ の確率は $n$ によらず約0.205で、0に近づかない。中央値なら一致する

＞＞12
でも $n\to \infty$ の話やろ。実際のデータは有限なんやから、一致性なんて実用的には意味なくない？

＞＞13
一致性だけで「よい推定量」とは言えんのはその通り。$n=1000$ でもまだ大きくずれる一致推定量もありうる
ただ、一致しない推定量は、データをいくら集めても正しい値に近づく保証がない。一致性は「最低限これは欲しい」っていう条件

＞＞14
じゃあ不偏性と一致性やったら、どっちが大事なん

＞＞15
どっちかと言えば一致性やと思う。＞＞4の $X_1$ は不偏でも使い物にならんし、＞＞6の $n$ 割りの分散は偏っててもふつうに使える

＞＞16
いや、データが少ないときは偏りが効くやろ。$n=5$ なら $n$ 割りの分散は真の値の8割しかない。不偏性も軽く見たらあかん

＞＞17
それはそう。少ないデータでは偏りが目立つし、多いデータでは一致性が効いてくる。どっちか一方やなくて、データの数と目的で見る

最尤推定量は一致するん？

＞＞19
正則条件のもとでは一致する。さらに $n$ が大きいとき、分散がクラメール・ラオの下限に近づく
一様分布の最大値みたいに正則条件を満たさん場合でも、＞＞10みたいに一致することはある

一致性は「$n$ を増やすと $\theta$ の近くに集まる」で、不偏性とは別物。不偏でも一致せんものも、偏ってても一致するものもある。MSE が0に行けば一致。コーシーの標本平均は一致せん。混ぜてたわ