【疑問】一様分布 U(0,θ) の最尤推定量、微分しても0にならんのに最大値が答えってなんで？【統計検定1級】

$U(0,\theta )$ の最尤推定量を求めよ、で対数尤度を微分したら $-n/\theta$ で、0になる点がない
どうすればいいん

前提のおさらいを2つ
スコア（対数尤度の傾き）の期待値が0になるのは、範囲が $\theta$ によらない正則な場合
$U(0,\theta )$ の $n$ 個の最大値の分布関数は $(x/\theta {)}^n$

微分で解ける場合から。平均 $1/\lambda$ の指数分布で、データが $1.2,0.5,2.3,0.8,1.7$（合計6.5）なら
$\ell (\lambda )=n\log \lambda -\lambda \sum x_i$、${\ell }^{\prime }(\lambda )=\frac{n}{\lambda }-\sum x_i=0$ で

${\ell }^{\prime \prime }(\lambda )=-n/{\lambda }^2<0$ やから最大

正規分布なら $\hat{\mu }=\bar{x}$、${\hat{\sigma }}^2=\frac{1}{n}\sum (x_i-\bar{x}{)}^2$
データ $4,6,5,7,3$ なら $\hat{\mu }=5$、${\hat{\sigma }}^2=10/5=2$。割るのは $n$ で、$n-1$ ではない

＞＞1
尤度を指示関数まで含めて書くと分かる

$\theta <\max x_i$ では0、$\theta \ge \max x_i$ では ${\theta }^{-n}$ で減る一方。最大は境目の $\hat{\theta }=\max x_i$

＞＞5
データ $0.8,2.9,1.7,3.6,2.2$ なら $\hat{\theta }=3.6$
$\theta =3.5$ ならデータの3.6が出るはずがないから尤度0、$\theta =4$ なら $4^{-5}\approx 0.00098$、$\theta =3.6$ なら $3.6^{-5}\approx 0.00165$

＞＞5
微分して0、は「最大値が内側にあって滑らか」なときの道具にすぎないんやな
尤度は最初にグラフの形を考える

最大値の推定量は小さめに出るやろ。真の $\theta$ を超えることがないんやから

＞＞8
そう。$\max X_i/\theta$ は $Be(n,1)$ に従うから、$E[\hat{\theta }]=\frac{n}{n+1}\theta$
$n=5$ なら $\frac{5}{6}\theta$。偏りをなくすなら $\frac{n+1}{n}\max x_i=1.2\times 3.6=4.32$

＞＞9
偏りがある推定量は使えんやろ。最尤推定のほうが悪いってことになる

＞＞10
平均二乗誤差で比べると、この例では偏りを直したほうが小さい
最尤：$\frac{2{\theta }^2}{(n+1)(n+2)}=\frac{2}{42}{\theta }^2\approx 0.048{\theta }^2$、直したもの：$\frac{{\theta }^2}{n(n+2)}=\frac{1}{35}{\theta }^2\approx 0.029{\theta }^2$

＞＞11
でも偏りがあるから悪い、とは言えない。正規の ${\hat{\sigma }}^2$（$n$ で割る）も偏ってるけど、平均二乗誤差は $n-1$ で割るものより小さい
どっちが良いかは基準と分布しだい

$U(\theta ,\theta +1)$ みたいに、最大になる $\theta$ が1つに決まらない例もある
$\max x_i-1\le \theta \le \min x_i$ の範囲全部で尤度が1。答案では「この区間のどれでも最尤推定量」と書く

対数尤度を書く、範囲の指示関数も入れる、微分で解けるか境界で決まるかを見る、最後に最大を確かめる。この手順なら一様分布でも迷わんな