【疑問】ロジスティック回帰の係数ってオッズ比で読むん？プロビットとは何が違うん【統計検定1級】

2値の結果をロジスティック回帰とプロビットで当てはめて、係数を解釈せよ、って問題

前提のおさらいを2つ
ロジスティック分布の分布関数は $F(x)=1/(1+e^{-x})$（シグモイド関数）で、分散は ${\pi }^2/3$
最尤推定は、尤度を書いて微分が0になる点を探す。閉じた形で解けなければ数値的に解く

＞＞1
ロジスティック回帰は

$x$ が1増えるとオッズが $e^{{\beta }_1}$ 倍。${\beta }_0=-3$、${\beta }_1=0.5$ なら、オッズ比 $e^{0.5}\approx 1.65$、$p(4)\approx 0.269$、$p(6)=0.5$

＞＞3
推定は最尤。対数尤度を微分すると
$\sum (y_i-p_i)=0$、$\sum (y_i-p_i)x_i=0$
$p_i$ が係数の非線形関数やから閉じた形にならず、ニュートン法で解く

数字で。$x=1,\dots ,10$、$y=0,0,0,1,0,1,0,1,1,1$
ロジスティック：${\hat{\beta }}_0\approx -3.72$、${\hat{\beta }}_1\approx 0.677$。オッズ比 $e^{0.677}\approx 1.97$、95%区間 $(0.90,4.29)$
プロビット $\Phi ({\gamma }_0+{\gamma }_{1}x)$：${\hat{\gamma }}_0\approx -2.29$、${\hat{\gamma }}_1\approx 0.417$
係数の比は約1.62。$x=5$ での予測確率はどちらも約0.42

＞＞5
係数の値が違うのに予測がほぼ同じなのは、使ってる分布の目盛りが違うだけやから。ロジスティック分布の標準偏差は $\pi /\sqrt{3}\approx 1.81$ で、標準正規より広い
中心付近の傾きで合わせると比は1.6前後になる。この例でも1.62

＞＞6
そんなに似てるなら、どっちを使っても同じやな

＞＞7
予測はほぼ同じ。違いは解釈と裾。ロジスティックは係数がそのまま対数オッズ比で読めるのが強み。プロビットは「正規の潜在変数がしきい値を超えたら1」というモデルとして読める
確率が0や1に近い裾では、ロジスティックのほうが裾が重いから差が出る

＞＞3
オッズ比2なら、確率も2倍ってことやろ

＞＞9
確率が小さいときだけ近い。$p$ が0.3から0.5になると、確率は約1.67倍やけどオッズ比は $(0.5/0.5)/(0.3/0.7)\approx 2.33$
結果がよく起きる場面でオッズ比を確率の比と読むと、効果を大きく言いすぎる

対数オッズを1次式に、係数はオッズ比、推定はニュートン法、プロビットとは目盛りが約1.6倍違うだけで予測は似る、オッズ比は確率の比ではない。これでまとまったな