【疑問】回帰係数の線形結合 cᵀβ の信頼区間ってどう作るん？x0 での平均の区間が端ほど広がるのはなんで【統計検定1級】

線形モデルで、推定量の線形結合 $c^{\top }\hat{\beta }$ の分布を導き、$x_0$ での平均 ${\beta }_0+{\beta }_1{x}_0$ の信頼区間を作れ、って問題

前提のおさらい。ガウス・マルコフの定理の設定では、$\hat{\beta }=(X^{\top }X{)}^{-1}{X}^{\top }y$ で $V[\hat{\beta }]={\sigma }^2(X^{\top }X{)}^{-1}$
$c^{\top }\hat{\beta }$ は $c^{\top }\beta$ の線形不偏推定量のなかで分散が最小

＞＞1
$V[A\hat{\beta }]=AV[\hat{\beta }]A^{\top }$ で $A=c^{\top }$ とすると
$V[c^{\top }\hat{\beta }]={\sigma }^2{c}^{\top }(X^{\top }X{)}^{-1}c$

誤差が正規なら、$c^{\top }\hat{\beta }$ は正規で、$s^2$ と独立。$\sigma$ を $s$ に置きかえて t 分布

数字で。$x=1,\dots ,5$、$y=2.1,3.9,6.2,7.8,10.1$
$\hat{\beta }=(0.05,1.99)$、$s^2\approx 0.0357$、$(X^{\top }X{)}^{-1}=\left(\begin{array}{cc}1.1& -0.3\\ -0.3& 0.1\end{array}\right)$
$x_0=3$：$c=(1,3)$、$c^{\top }(X^{\top }X{)}^{-1}c=0.2$、推定 $6.02$、標準誤差 $0.084$、95%区間 $(5.75,6.29)$
$x_0=6$：$c^{\top }(X^{\top }X{)}^{-1}c=1.1$、推定 $11.99$、標準誤差 $0.198$、95%区間 $(11.36,12.62)$

＞＞4
t の上側2.5%点は自由度 $5-2=3$ で $3.182$。データの外の $x_0=6$ では、区間の幅が2倍以上になってる

＞＞4
なんで外側で広がるん

＞＞6
単回帰では $c^{\top }(X^{\top }X{)}^{-1}c=\frac{1}{n}+\frac{(x_0-\bar{x}{)}^2}{S_{xx}}$ になる。$\bar{x}=3$、$S_{xx}=10$ やから
$x_0=3$ で $0.2+0=0.2$、$x_0=6$ で $0.2+9/10=1.1$
傾きの誤差が、$\bar{x}$ から離れるほど大きく効く

＞＞3
面倒やな。${\beta }_0$ と ${\beta }_1$ の区間を別々に作って、${\beta }_0+6{\beta }_1$ に組み合わせたらええやん

＞＞8
それやと共分散が抜ける。分散を足すだけにすると $1.1+6^2\times 0.1=4.7$ で、正しい $1.1$ の4倍以上
${\hat{\beta }}_0$ と ${\hat{\beta }}_1$ の共分散 $-0.3{\sigma }^2$ が負で、$2\times 6\times (-0.3)=-3.6$ が打ち消してる。区間を別々に組み合わせると広すぎる

＞＞4
新しく1個観測する値の予測区間なら、その観測の誤差の分を足して $1+c^{\top }(X^{\top }X{)}^{-1}c$。$x_0=6$ で $(11.12,12.86)$ になって、平均の区間より広い

$V[c^{\top }\hat{\beta }]={\sigma }^2{c}^{\top }(X^{\top }X{)}^{-1}c$、$\sigma$ を $s$ にして t($n-p$)、共分散を忘れない、予測なら1を足す。これで区間が作れるな