【疑問】最尤推定量が漸近的に N(θ, 1/(nI)) になる、ってテイラー展開と中心極限定理でどう示すん【統計検定1級】

$\sqrt{n}(\hat{\theta }-\theta )\to N(0,1/I(\theta ))$ の証明の筋を書け、って問題
テイラー展開するところまでは分かるけど、そこから先がつながらん

前提のおさらいを2つ
フィッシャー情報量は $I(\theta )=V[S]=-E[\partial S/\partial \theta ]$（1個あたり）
中心極限定理：独立同分布で平均0・分散 ${\sigma }^2$ の和を $\sqrt{n}$ で割ると $N(0,{\sigma }^2)$ に分布収束する

＞＞1
スコアの和 $S_n(\theta )$ を真の値 ${\theta }_0$ のまわりで展開する。$S_n(\hat{\theta })=0$ やから

整理すると $\sqrt{n}(\hat{\theta }-{\theta }_0)\approx \frac{S_n({\theta }_0)/\sqrt{n}}{-S_n^{\prime }({\theta }_0)/n}$

＞＞3
分子と分母を別々に見る
分子：$S_n({\theta }_0)$ は平均0・分散 $I$ の独立な和やから、中心極限定理で $S_n/\sqrt{n}\to N(0,I)$
分母：$-S_n^{\prime }/n$ は $-\partial S/\partial \theta$ の平均やから、大数の法則で $I$ に確率収束

＞＞4
分布収束するものを確率収束するもので割ると、極限どうしの割り算になる（スルツキーの定理）

＞＞5
漸近分散 $1/(nI)$ はクラメール・ラオの下限と同じ。大きい $n$ では最尤推定量が下限に届く

数字で。平均 $1/\lambda$ の指数分布で $\hat{\lambda }=1/\bar{X}$、$I=1/{\lambda }^2$
$\lambda =2,n=50$ なら漸近標準偏差は $\lambda /\sqrt{n}=2/\sqrt{50}\approx 0.283$
シミュレーションすると $\hat{\lambda }$ の標準偏差は約 $0.29$、平均は約 $2.04$（正確には $\frac{n}{n-1}\lambda$）

＞＞3
テイラー展開の残りの項を無視してええ根拠は？

＞＞8
$\hat{\theta }$ が一致推定量で ${\theta }_0$ に近づくから、2次の項は1次の項に比べて小さくなる
厳密には3階微分が有界、などの正則条件を仮定する。答案では「正則条件のもとで」と書けばいい

＞＞9
正則条件が崩れると、そもそも $\sqrt{n}$ の速さにならない例があるやろ

＞＞10
$U(0,\theta )$ の最大値は、$n(\theta -\max X_i)$ が平均 $\theta$ の指数分布に近づく。$\sqrt{n}$ じゃなくて $n$ の速さで縮む
正規分布にもならない。範囲が $\theta$ で動く分布では、この定理は使えない

＞＞7
実際の標準誤差は $1/\sqrt{nI(\hat{\theta })}$ か、観測情報量 $1/\sqrt{-{\ell }^{\prime \prime }(\hat{\theta })}$ を使う。指数分布ならどっちも $\hat{\lambda }/\sqrt{n}$

スコアを展開、分子はCLT、分母は大数の法則、スルツキーで合わせる。この4段で筋が書けるな