【疑問】単回帰の傾きの推定量、分散が σ²/Sxx になるのはなんで？傾きのt検定の自由度が n−2 なのも【統計検定1級】

単回帰 $y_i={\beta }_0+{\beta }_1{x}_i+{\epsilon }_i$ で、傾きの推定量の分散を導いて $t$ 検定せよ、って問題

前提のおさらいを2つ
最小二乗推定量は $y$ の線形結合で、誤差の分散が等しければ線形不偏推定量の中で分散が最小
$t$ 分布は $Z/\sqrt{V/m}$（$Z$ と $V\sim {\chi }_m^2$ が独立）

＞＞1
傾きの推定量は $S_{xx}=\sum (x_i-\bar{x}{)}^2$ として
${\hat{\beta }}_1=\frac{\sum (x_i-\bar{x})(y_i-\bar{y})}{S_{xx}}={\sum }_i\frac{x_i-\bar{x}}{S_{xx}}{y}_i$
$\sum (x_i-\bar{x})\bar{y}=0$ やから $\bar{y}$ が消えて、$y_i$ の線形結合になる

＞＞3
$y_i$ は独立で分散 ${\sigma }^2$ やから、係数の2乗の和に ${\sigma }^2$ をかけるだけ

$x$ を広くとるほど $S_{xx}$ が大きくなって、傾きが安定する

＞＞4
${\sigma }^2$ は残差で推定する。$s^2=\frac{1}{n-2}\sum e_i^2$
${\beta }_0$ と ${\beta }_1$ の2つを推定して残差に2つの制約（$\sum e_i=0$、$\sum x_i{e}_i=0$）がかかるから、$(n-2)s^2/{\sigma }^2\sim {\chi }_{n-2}^2$

数字で。$x=1,2,3,4,5$、$y=2,4,5,4,5$
$S_{xx}=10$、$S_{xy}=6$ で ${\hat{\beta }}_1=0.6$、${\hat{\beta }}_0=4-0.6\times 3=2.2$
残差 $-0.8,0.6,1.0,-0.6,-0.2$、二乗和 $2.4$、$s^2=2.4/3=0.8$
標準誤差 $\sqrt{0.8/10}\approx 0.283$、$t\approx 2.12$。$t_3$ の上側2.5%点 $3.182$ に届かず、P値約0.124

＞＞6
グラフを見たら右上がりやん。有意にならんのは検定がおかしいんちゃう

＞＞7
$n=5$ で自由度3しかないから、$t$ 分布の裾がかなり重い。傾きの95%信頼区間は $0.6\pm 3.182\times 0.283$ で $(-0.30,1.50)$
0も、かなり急な傾きも、どっちも否定できない。見た目の傾向と、それを確かめる情報があるかは別

＞＞5
$\sigma$ の推定に $n$ じゃなくて $n-2$ で割るのは、残差がデータより小さく出るのを直すため。$n$ で割ると ${\sigma }^2$ を小さく見積もる

＞＞4
誤差が正規でなくても $V[{\hat{\beta }}_1]={\sigma }^2/S_{xx}$ は成り立つ。$t$ 分布に正確に従うところで正規の仮定を使ってる

${\hat{\beta }}_1$ を $y$ の線形結合で書く、分散は ${\sigma }^2/S_{xx}$、残差の自由度 $n-2$ で $t$。これで導出になるな