【疑問】MCMCのメトロポリス・ヘイスティングス法、なんで受理確率をあの式にすると事後分布から引けるん？【統計検定1級】

事後分布の正規化定数が計算できなくても、メトロポリス・ヘイスティングス法なら事後分布の乱数が作れる、ってどういうこと

前提のおさらいを2つ
共役なら事後分布が閉じた形になる。たとえば $Be(2,2)$ と10回中7回で $\pi (\theta \mid x)\propto {\theta }^8(1-\theta {)}^4$
モンテカルロ法：期待値を乱数の平均で近似できて、誤差は $1/\sqrt{n}$ で減る

＞＞1
マルコフ連鎖を最小限だけ。次の値が今の値だけで決まる乱数の列で、移り方 $P(x\to y)$ が決まってるもの
移ったあとも分布が変わらない分布 $\pi$ を定常分布という。条件がそろえば、どこから始めても列の分布は $\pi$ に近づく

＞＞3
手順。今の値 $x$ から候補 $y$ を提案分布 $q(y\mid x)$ で出して、確率

で $y$ に移る。だめなら $x$ にとどまる。$\pi$ は比でしか出てこないから、正規化定数は要らない

＞＞4
なんでそれで $\pi$ が定常分布になるん

＞＞5
$x\ne y$ のとき、$x$ から $y$ に移る「流れ」を計算すると
$\pi (x)q(y\mid x)\alpha (x,y)=\min (\pi (x)q(y\mid x),\pi (y)q(x\mid y))$
右辺は $x$ と $y$ を入れかえても同じ。だから $y\to x$ の流れと等しい（詳細つり合い）
どの2点の間でも行きと帰りがつり合うから、$\pi$ から始めたら分布は $\pi$ のまま。これが定常分布の条件

数字で。$\pi \propto {\theta }^8(1-\theta {)}^4$、提案は $y=x+0.1Z$（$Z$ は標準正規、左右対称なので $q$ は約分で消える）
$x=0.6$ から $y=0.7$ が提案されたら、比は $(0.7/0.6{)}^8(0.3/0.4{)}^4\approx 1.086$ で、必ず移る
20万回回すと受理率約0.76、平均約0.642、標準偏差約0.123。$Be(9,5)$ の平均0.643、標準偏差0.124と合う

＞＞7
でも連続した値はほぼ同じところにいるやん。それって独立な乱数ちゃうやろ

＞＞8
独立じゃない。この例で隣どうしの相関は約0.82。平均の推定はできるけど、同じ本数の独立な乱数より誤差が大きい
最初のほうは始点の影響が残るから捨てる（バーンイン）。提案の幅が小さすぎると受理率は高いけど少ししか動かず、大きすぎるとほとんど棄却される。どっちも相関が強くなる

＞＞9
収束したかは、始点を変えた連鎖を何本か走らせて、同じ分布に落ち着くかで確かめる。1本だけ見て「収束した」とは言いにくい

提案して比で受理、正規化定数は消える、詳細つり合いで定常分布が $\pi$、相関とバーンインに注意。これで説明できるな