【疑問】θ の最尤推定量が分かれば g(θ) の最尤推定量は g(θ̂)、ってそれだけでええの？【統計検定1級】

指数分布の $\lambda$ の最尤推定量が $1/\bar{x}$ と出たあと、「中央値の最尤推定量も求めよ」って続く問題
尤度を中央値で書き直してまた微分せなあかんの？

前提のおさらい。最尤推定量は対数尤度を最大にする $\theta$
平均 $1/\lambda$ の指数分布で、データの合計が6.5（5個）なら $\hat{\lambda }=1/1.3\approx 0.769$

＞＞1
書き直さなくていい。不変性がある

中央値は $\log 2/\lambda$ やから、$\log 2/0.769=1.3\log 2\approx 0.901$

＞＞3
1対1の $g$ なら証明は短い
$\eta =g(\theta )$ で書いた尤度は $L^{\ast }(\eta )=L(g^{-1}(\eta ))$ で、これを最大にする $\eta$ は $g^{-1}(\eta )=\hat{\theta }$、つまり $\eta =g(\hat{\theta })$
同じ山を別の目盛りで読んでるだけ

＞＞3
ほかの例も
$P(X>2)=e^{-2\lambda }$ の推定は $e^{-2\times 0.769}\approx 0.215$
10回中7回成功なら $\hat{p}=0.7$ で、オッズは $0.7/0.3\approx 2.33$、対数オッズは $\log 2.33\approx 0.847$

＞＞4
1対1じゃない $g$ ならどうなるん。${\mu }^2$ みたいな

＞＞6
同じ値 $\eta$ になる $\theta$ の中で尤度の最大をとった「誘導尤度」で定義すると、やっぱり $g(\hat{\theta })$ が最大になる
正規分布の ${\mu }^2$ の最尤推定量は ${\bar{x}}^2$

＞＞3
最尤推定量が不偏なら、$g(\hat{\theta })$ も不偏なんやろ

＞＞8
そこは保たれない。不変性は最大化の性質で、期待値の性質ではない
指数分布で $E[1/\bar{X}]=\frac{n}{n-1}\lambda$、$n=5$ なら $1.25\lambda$
$s^2$ は不偏でも $s$ は $\sigma$ に対して小さめに偏る。$E[{\bar{X}}^2]={\mu }^2+{\sigma }^2/n$ も ${\mu }^2$ より大きい

＞＞9
不偏性は $g$ が1次式のときしか保たれない。そのかわり最尤は $g$ をどう選んでも答えがぶれない

ベイズのMAP推定（事後分布の最頻値）は、この性質を持たない
一様事前で10回中7回なら事後分布は $p^7(1-p{)}^3$ に比例して、最頻値は $p=0.7$
対数オッズ $\eta$ で表すと密度に $dp/d\eta =p(1-p)$ がかかって $p^8(1-p{)}^4$ になり、最頻値は $p=2/3$、$\eta =\log 2\approx 0.693$。$\log (0.7/0.3)\approx 0.847$ とずれる

＞＞11
密度は目盛りを変えるとヤコビアンがかかるけど、尤度はかからない。その違いやな

$\theta$ を出してから $g$ に入れる、1対1でなければ誘導尤度、不偏性は別。この3つを書けば不変性の問題は片づくな