【疑問】クラスター分析、結合法を変えたら分かれ方が変わった。k-meansも初期値で答えが違うってほんま？【統計検定1級】

同じデータで最短距離法と最長距離法を使ったら、2つのクラスターの分かれ方が違った。どっちが正しいん

前提のおさらい。相関係数は単位によらないけど、距離は単位で変わる。変数ごとに標準化してから距離を測るかどうかで結果が変わる

＞＞1
階層的手法は、近いものから順に1つずつ合併していく。違うのは「クラスターどうしの距離」の決め方
最短距離法：2つのクラスターの中で一番近い2点の距離
最長距離法：一番遠い2点の距離
群平均法：全部の組の距離の平均、ウォード法：合併したときの平方和の増え方

数字で。1次元の7点 $0,1.0,2.1,3.3,4.6,6.0,8.4$
最短距離法：間隔が $1.0,1.1,1.2,1.3,1.4$ と少しずつ広がるだけやから、左から順に鎖のようにつながる。2つに分けると $\{0,\dots ,6.0\}$ と $\{8.4\}$
最長距離法：$\{0,1.0,2.1,3.3\}$ と $\{4.6,6.0,8.4\}$

＞＞4
最短距離法の結果、8.4が1点だけ外れるのは変ちゃう？

＞＞5
最短距離法は「近い点が1つでもあればつながる」から、細長く連なったクラスターを作りやすい（連鎖）。最長距離法は、まとまりのよい丸いクラスターを作りやすい
どっちが正しいかは、データの見方で決まる。どの手法でも同じに分かれるなら、その分かれ方は頑健と言える

k-meansは、クラスターの数 $k$ を決めて、中心への2乗距離の和を最小にする

「近い中心に割り当てる」と「中心を平均に更新する」を交互にくり返す。どちらの段階でもこの和は増えない

＞＞7
同じ7点で $k=2$
初期中心を $0$ と $8.4$ にすると、$\{0,\dots ,3.3\}$ と $\{4.6,6.0,8.4\}$ で、和は約13.45
初期中心を $6.0$ と $8.4$ にすると、$\{0,\dots ,4.6\}$ と $\{6.0,8.4\}$ で止まって、和は約16.14

＞＞8
もっと小さい和があるのに止まるんやったら、アルゴリズムが壊れてるやん

＞＞9
壊れてない。くり返しが保証するのは「これ以上減らない点で止まる」ことだけで、一番小さい点（全体の最小）に届く保証はない
だから初期値を何通りも変えて走らせて、和が最小のものを選ぶ。実務ではそれが普通の使い方

＞＞10
$k$ そのものもデータからは一意に決まらない。$k$ を増やせば和は必ず減るから、減り方が鈍る点を目安にするくらい

結合法で距離の定義が変わる、最短距離法は連鎖しやすい、k-meansは局所解があるから初期値を変える、標準化するかも結果を変える。これで説明できるな