事後分布 から点推定するとき、事後平均・事後中央値・MAPのどれを答えればいいん
【疑問】ベイズ推定量って事後平均でええの?事後中央値やMAPとは何が違うん、損失関数で決まるってほんま?【統計検定1級】
1: 名無しさん
2: 名無しさん
前提のおさらい。 の事前分布と10回中7回成功から、事後分布は 。事後平均は
3: 名無しさん
>>1
どれも正しくて、何を損と考えるかで決まる。推定値 の損を として、事後分布での期待値を最小にする がベイズ推定量
2乗損失 → 事後平均、絶対損失 → 事後中央値、0-1損失(当たり以外は損1)の極限 → 事後最頻値(MAP)
4: 名無しさん
>>3
2乗損失の証明は1行
第1項は によらないから、 で最小
5: 名無しさん
>>3
絶対損失は、 を少し右に動かすと、 の側で損が増え、 の側で減る
で、0になるのは両側が半々の点、つまり中央値
6: 名無しさん
数字で。 では
事後平均 、事後中央値 約 、MAP
分布が少し左に裾を引いてるから、平均 < 中央値 < 最頻値の順
7: 名無しさん
>>6
ベイズ推定量って、結局事前分布で偏らせてるだけやろ。最尤の のほうがまっとうやん
8: 名無しさん
>>7
偏りはある。でもMSEで比べると話が変わる。 で事後平均 と を比べると
:最尤0.025、事後平均約0.0128
:最尤0.021、事後平均約0.0140
:最尤0.009、事後平均約0.0177
9: 名無しさん
>>8
が事前平均の0.5に近いあいだは事後平均が勝って、端に行くと負ける。どの でも勝つ推定量はない
事前分布の重み(期待損失の平均)で平均すると、ベイズ推定量が一番小さくなる。それがベイズ推定量の定義そのもの
10: 名無しさん
>>3
MAPは事前分布が一様なら最尤推定と一致する。 なら事後は で、最頻値は
11: 名無しさん
損失を決める、事後期待損失を最小にする、2乗なら平均・絶対なら中央値・0-1ならMAP。MSEは によって勝ち負けが入れかわる。これで書けるな
管理人のひとこと
- ベイズ推定量は事後期待損失を最小にする値。2乗損失→事後平均、絶対損失→事後中央値、0-1損失→MAP。
- で平均0.643、中央値約0.650、MAP約0.667。
- で と のMSEは、 で0.0128対0.025、 で0.0177対0.009。どの でも勝つ推定量はない。一様事前ならMAPは最尤と一致。