【疑問】回帰の残差にはどんな性質があるん？yの対数をとると係数の意味が変わるってほんま？【統計検定1級】

残差の性質を述べて、$\log y$ に回帰したときの係数の解釈を説明せよ、って問題

前提のおさらいを2つ
$\hat{\beta }=(X^{\top }X{)}^{-1}{X}^{\top }y$、正規方程式から $X^{\top }e=0$
$\log Y\sim N(\mu ,{\sigma }^2)$ なら $E[Y]=e^{\mu +{\sigma }^2/2}$

＞＞1
残差は $e=(I-H)y$、$H=X(X^{\top }X{)}^{-1}{X}^{\top }$（ハット行列）
$\sum e_i=0$、$\sum x_i{e}_i=0$（$X^{\top }e=0$）

$h_{ii}$ は $H$ の対角成分。誤差 ${\epsilon }_i$ は同じ分散でも、残差の分散は点ごとに違う

＞＞3
単回帰の例（$x=1,\dots ,5$）で確かめる
残差 $-0.8,0.6,1.0,-0.6,-0.2$ は、和が0、$x$ をかけた和も $-0.8+1.2+3.0-2.4-1.0=0$
$h_{ii}=\frac{1}{n}+\frac{(x_i-\bar{x}{)}^2}{S_{xx}}$ は $0.6,0.3,0.2,0.3,0.6$。端の点ほど残差の分散が小さい（回帰直線が端の点に引き寄せられる）

＞＞1
対数のほう。$\log y={\beta }_0+{\beta }_{1}x+\epsilon$ なら、$x$ が1増えると $y$ は $e^{{\beta }_1}$ 倍
${\beta }_1=0.05$ なら $e^{0.05}-1\approx 5.13\%$ 増。小さいうちは「$100{\beta }_1\%$」で近似できる
${\beta }_1=-0.1$ なら $e^{-0.1}-1\approx -9.5\%$ で、$-10\%$ とは少しずれる

＞＞5
両方対数（$\log y$ を $\log x$ に回帰）なら、係数は弾力性。$x$ が1%増えると $y$ が約 ${\beta }_1\%$ 増える

＞＞5
でも予測値を戻すとき、$e^{{\hat{\beta }}_0+{\hat{\beta }}_{1}x}$ でええんやろ

＞＞7
それは $y$ の平均じゃなくて中央値の推定。平均がほしいなら $e^{{\sigma }^2/2}$ をかける
残差の分散が $0.04$ なら $e^{0.02}\approx 1.020$ で約2%。分散が大きいと差も大きい

＞＞1
残差がいびつやから対数をとって見た目をよくする、っていう使い方はあかんの？

＞＞9
対数をとると、誤差が足し算（$y=\cdots +\epsilon$）から掛け算（$y=\cdots \times e^{\epsilon }$）に変わる。モデルの意味ごと変わる
見た目だけで決めずに、比で効く現象（売上、所得、濃度など）かどうかで決める

残差は和0、$x$ と直交、分散は ${\sigma }^2(1-h_{ii})$。対数は係数を「倍」で読む、戻すときは中央値と平均の違いに注意。まとまったな