【疑問】不偏推定量って、作れるならいつも作るべきなん？変な値になる例もあるって聞いた【統計検定1級】

不偏推定量の作り方を問われると、いつも $n-1$ で割る話しか思いつかん

前提のおさらい。$U(0,\theta )$ の最尤推定量は最大値で、$E[\max X_i]=\frac{n}{n+1}\theta$
期待値が真の値からずれてる分は、定数をかけて直せる

＞＞1
定義から

「すべての $\theta$」が大事。特定の値でだけ合っててもだめ

＞＞3
直し方は3通りくらいある
(1) 定数倍：$\frac{n+1}{n}\max X_i$ は $U(0,\theta )$ の不偏推定量
(2) 期待値を計算して逆算：$E[\sum (X_i-\bar{X}{)}^2]=(n-1){\sigma }^2$ やから $n-1$ で割る
(3) 母関数を使う：下のポアソンの例

＞＞4
ポアソンで $e^{-\lambda }=P(X=0)$ を推定したい。合計 $T=\sum X_i\sim Po(n\lambda )$ の確率母関数は $E[s^T]=e^{n\lambda (s-1)}$
$s=\frac{n-1}{n}$ を入れると $e^{-\lambda }$ になるから、${\left(\frac{n-1}{n}\right)}^T$ が不偏推定量

＞＞5
$n=10$、合計15なら $0.9^{15}\approx 0.206$。最尤の $e^{-1.5}\approx 0.223$ とは少し違う

＞＞1
不偏推定量がそもそも存在しないこともある
二項 $Bin(n,p)$ で $1/p$ を推定したいとき、どんな $g(X)$ でも $E[g(X)]$ は $p$ の $n$ 次以下の多項式
$1/p$ は多項式で書けないから、不偏推定量はない

＞＞3
変な例って？

＞＞8
ポアソンの観測1個から $e^{-2\lambda }$ を推定すると、不偏推定量は $(-1{)}^X$ しかない。$E[(-1{)}^X]=e^{\lambda (-1-1)}=e^{-2\lambda }$
値は $+1$ か $-1$ だけ。$e^{-2\lambda }$ は0と1のあいだやのに、$-1$ と答えることがある

＞＞9
それなら不偏性にこだわる意味ないやろ。ありえない値を出す推定量は使えん

＞＞10
極端な例やけど、不偏性は「平均すると当たる」だけで、1回ごとの当たりやすさは保証しない
ふつうは不偏性だけでなく、分散や平均二乗誤差もあわせて見る

＞＞11
とはいえ、多くの回をまとめて平均する場面では不偏であることが効く。調査の推定量で不偏性が重視されるのはそのため

$\sigma$ の推定も注意
$s^2$ が不偏でも $s$ は不偏ではない。正規分布で $n=5$ なら $E[s]\approx 0.940\sigma$

期待値を計算する、ずれを定数や母関数で直す、ありえる値かも確かめる。不偏推定量はこの3つで扱えそうやな