K-Meansクラスタリング

K-Meansクラスタリングとは？

K-MeansはWCSSを最小化してn個のデータポイントをK個のクラスタに分割する反復的分割アルゴリズムです。各クラスタは重心で表現されます。

アルゴリズムはK個の初期重心から開始し、2ステップを交互に実行します：(1)各ポイントを最近重心に割当、(2)重心の再計算。通常10-50回の反復で収束します。

Kの選択が重要です。エルボー法はWCSS対Kをプロットし、追加クラスタの効果が減少する「曲がり」を探します。シルエットスコアは+1に近いほど良いクラスタリングです。

Formula: WCSS = Σₖ Σ(xᵢ ∈ Cₖ) ‖xᵢ − μₖ‖² ここで μₖ = クラスター Cₖ の重心 ‖·‖ = ユークリッド距離 割り当てが変化しなくなった時点でアルゴリズムは収束

計算例

ポイント：(1,1), (1.5,2), (3,4), (5,7), (3.5,5), (4.5,5), (3.5,4.5)。K=2で重心μ₁≈(1.25, 1.5)、μ₂≈(3.9, 5.1)。WCSS = 8.525。

この計算機を使うタイミング

• 購買行動、属性、エンゲージメント指標に基づいて顧客をグループにセグメント化するマーケティングアナリスト
• 生産データの中で異なる母集団や故障モードを特定するために測定データをグルーピングする品質エンジニア
• 多次元データセットに潜む自然なグループを発見するために教師なし分類を行う研究者
• 教師あり学習を適用する前に、データに意味のあるクラスターが含まれるかを判断する探索的分析を行うデータサイエンティスト

よくある間違い

• クラスタリングの前に特徴量を標準化しない — ある変数が0〜1000で別の変数が0〜1の範囲だと、K-Meansはスケールの大きい変数に支配されます。必ず平均0・分散1に標準化してください
• エルボー法やシルエットスコアを使わず直感でKを選ぶ — 恣意的なKは意味のないクラスターを生みます。定量的な基準で選択を裏付けてください
• K-Meansを1回しか実行しない — ランダム初期化のため実行ごとに結果が変わり得ます。異なるシードで複数回(10〜20回)実行し、最良のWCSSを選んでください
• 非球形または重なり合うクラスターを持つデータにK-Meansを適用する — K-Meansは凸で同程度の大きさのクラスターを前提とします。不規則なクラスター形状にはDBSCANや混合ガウスモデルを使用してください

結果の解釈方法

• WCSSが低いほどクラスターは凝集していますが、WCSSはKが増えると必ず減少します — クラスターを追加しても大きな改善が得られなくなるKをエルボー法で見つけてください
• クラスターのサイズは用途にとって意味のあるものであるべきです — 1〜2点しかないクラスターは、実際のクラスターではなく外れ値のグループかもしれません
• 重心の座標を調べて各クラスターが何を表すかを理解してください — 重心は平均的なメンバーであり、クラスターの特性を定義します

関連規格・参考文献

• MacQueen, J. (1967), 'Some Methods for Classification and Analysis of Multivariate Observations', Proc. 5th Berkeley Symposium — 'k-means'という用語の起源
• Lloyd, S. (1957, 1982年出版), 'Least Squares Quantization in PCM', IEEE Transactions on Information Theory — 標準的な割当・更新の反復手続き
• Jain, A. K. (2010), 'Data Clustering: 50 Years Beyond K-Means', Pattern Recognition Letters — k-meansの実務、初期化、Kの選択に関するサーベイ論文

よくある質問

適切なクラスタ数(K)の選び方は？

エルボー法：K = 1〜10のWCSSをプロットし曲線が急に曲がるKを選択。またはシルエットスコアが最高のKを選びます。

K-Meansの限界は？

球形クラスタを仮定し外れ値に敏感です。非凸クラスタを検出できません。その場合はDBSCANやガウス混合モデルを検討してください。