読むだけでちょっと賢くなる、架空のまとめスレ

【疑問】ベイズ推定量って事後平均でええの?事後中央値やMAPとは何が違うん、損失関数で決まるってほんま?【統計検定1級】

11レスカテゴリ:統計・確率
1: 名無しさん

事後分布 から点推定するとき、事後平均・事後中央値・MAPのどれを答えればいいん

2: 名無しさん

前提のおさらい。 の事前分布と10回中7回成功から、事後分布は 。事後平均は

3: 名無しさん

>>1
どれも正しくて、何を損と考えるかで決まる。推定値 の損を として、事後分布での期待値を最小にする がベイズ推定量
2乗損失 → 事後平均、絶対損失 → 事後中央値、0-1損失(当たり以外は損1)の極限 → 事後最頻値(MAP)

4: 名無しさん

>>3
2乗損失の証明は1行

第1項は によらないから、 で最小

5: 名無しさん

>>3
絶対損失は、 を少し右に動かすと、 の側で損が増え、 の側で減る
で、0になるのは両側が半々の点、つまり中央値

6: 名無しさん

数字で。 では
事後平均 、事後中央値 約 、MAP
分布が少し左に裾を引いてるから、平均 < 中央値 < 最頻値の順

7: 名無しさん

>>6
ベイズ推定量って、結局事前分布で偏らせてるだけやろ。最尤の のほうがまっとうやん

8: 名無しさん

>>7
偏りはある。でもMSEで比べると話が変わる。 で事後平均 と を比べると
:最尤0.025、事後平均約0.0128
:最尤0.021、事後平均約0.0140
:最尤0.009、事後平均約0.0177

9: 名無しさん

>>8
が事前平均の0.5に近いあいだは事後平均が勝って、端に行くと負ける。どの でも勝つ推定量はない
事前分布の重み(期待損失の平均)で平均すると、ベイズ推定量が一番小さくなる。それがベイズ推定量の定義そのもの

10: 名無しさん

>>3
MAPは事前分布が一様なら最尤推定と一致する。 なら事後は で、最頻値は

11: 名無しさん

損失を決める、事後期待損失を最小にする、2乗なら平均・絶対なら中央値・0-1ならMAP。MSEは によって勝ち負けが入れかわる。これで書けるな

管理人のひとこと