【疑問】多項分布の周辺が二項分布になるのはええとして、共分散が −np_ip_j になるのはなんで？【統計検定1級】

14レスカテゴリ：統計・確率

1: 名無しさん

多項分布の成分どうしの共分散が $- n p_{i} p_{j}$ になる、って覚えてるけど、マイナスになる理由も導き方も説明できん

2: 名無しさん

前提のおさらいを2つ
二項分布は独立なベルヌーイ $n$ 個の和で、平均 $n p$ 、分散 $n p (1 - p)$
共分散は $Cov (X, Y) = E [X Y] - E [X] E [Y]$ で、和の分散は $V [X + Y] = V [X] + V [Y] + 2 Cov (X, Y)$

3: 名無しさん

設定から。1回の試行で結果が $k$ 種類のどれか1つになり、確率が $p_{1}, \dots, p_{k}$ 。独立に $n$ 回やったときの各種類の回数が多項分布

P (X_{1} = x_{1}, \dots, X_{k} = x_{k}) = \frac{n !}{x _{1} ! \dots x _{k} !} p_{1}^{x_{1}} \dots p_{k}^{x_{k}}

$p = (0.5, 0.3, 0.2)$ 、 $n = 10$ なら $P (5, 3, 2) = 2520 \times 0. 5^{5} \times 0. 3^{3} \times 0. 2^{2} \approx 0.0851$

4: 名無しさん

＞＞3
周辺が二項になるのは、種類 $i$ か「それ以外」かの2つに分けて見ればいいから
$X_{1} \sim B in (10, 0.5)$ で平均5・分散2.5、 $X_{2} \sim B in (10, 0.3)$ で平均3・分散2.1

5: 名無しさん

＞＞1
1回ごとの指示変数で書く。 $t$ 回目が種類 $i$ なら1になる $I_{t i}$ を使うと $X_{i} = \sum_{t} I_{t i}$
同じ回の $I_{t i}$ と $I_{t j}$ （ $i \neq = j$ ）は両方1にはなれないから $E [I_{t i} I_{t j}] = 0$ で

Cov (I_{t i}, I_{t j}) = 0 - p_{i} p_{j} = - p_{i} p_{j}

違う回どうしは独立で共分散0。同じ回の分が $n$ 回あるから $Cov (X_{i}, X_{j}) = - n p_{i} p_{j}$

6: 名無しさん

＞＞5
和の分散からも確かめられる。 $X_{1} + X_{2}$ は「種類1か2」の回数やから $B in (10, 0.8)$ で分散 $1.6$
$Cov (X_{1}, X_{2}) = (1.6 - 2.5 - 2.1) /2 = - 1.5$
公式でも $- 10 \times 0.5 \times 0.3 = - 1.5$ で一致

7: 名無しさん

＞＞6
相関係数にすると $- 1.5/ 2.5 \times 2.1 \approx - 0.655$ 。 $n$ によらず $- \frac{p _{i} p _{j}}{( 1 - p _{i} ) ( 1 - p _{j} )}$

8: 名無しさん

＞＞5
マイナスになるのは当たり前やろ。合計が $n$ に決まってるんやから、1つ増えたら他が減る

9: 名無しさん

＞＞8
向きはそうやけど、大きさは確率しだい
$p_{i} = p_{j} = 0.01$ なら相関は $- 0.01/0.99 \approx - 0.0101$ で、ほとんど無相関
まれな種類どうしは、互いにほぼ影響しない

10: 名無しさん

＞＞9
ポアソンの話とつながるな。まれな種類の回数は、ほぼ独立なポアソンに近くなる

11: 名無しさん

条件付き分布も二項になるん？

12: 名無しさん

＞＞11
なる。 $X_{1} = x_{1}$ が分かれば、残りの $n - x_{1}$ 回は種類1以外で、その中で種類2になる確率は $p_{2} / (1 - p_{1})$
$X_{1} = 5$ なら $X_{2} \sim B in (5, 0.6)$ で、平均3

13: 名無しさん

分散共分散行列は、どの行の和も0になる
種類1の行は $2.5 - 1.5 - 1.0 = 0$ 。合計が $n$ で一定やから、行列は正則にならない（ランクは $k - 1$ ）
分割表の検定で自由度が1つ減るのもこの話

14: 名無しさん

指示変数に分けると、同じ回の中だけが負の共分散を作ってることが見えるな。答案では「同じ試行で2つの結果は同時に起きない」と書けば根拠になる

管理人のひとこと

多項分布の周辺は「その種類かそれ以外か」で二項分布 $B in (n, p_{i})$ 。条件付きも $X_{j} ∣ X_{i} = x_{i} \sim B in (n - x_{i}, p_{j} / (1 - p_{i}))$ 。
$Cov (X_{i}, X_{j}) = - n p_{i} p_{j}$ ：同じ試行では2つの結果が同時に起きないので $Cov (I_{t i}, I_{t j}) = - p_{i} p_{j}$ 、それが $n$ 回分。
例： $n = 10$ 、 $p = (0.5, 0.3, 0.2)$ で $Cov (X_{1}, X_{2}) = - 1.5$ 、相関約 $- 0.655$ 。和 $X_{1} + X_{2} \sim B in (10, 0.8)$ からも確かめられる。
まれな種類どうしはほぼ無相関（ $p = 0.01$ で約 $- 0.0101$ ）。分散共分散行列の各行の和は0で、ランクは $k - 1$ 。

【疑問】多項分布の周辺が二項分布になるのはええとして、共分散が −np_ip_j になるのはなんで？【統計検定1級】

管理人のひとこと

関連スレ