การจัดกลุ่ม K-Means
แบ่งข้อมูลเป็น K กลุ่มด้วยอัลกอริทึม K-Means. จัดกลุ่มจุดข้อมูลเป็น K กลุ่มโดยลดผลรวมกำลังสองภายในกลุ่ม (WCSS)…
จัดกลุ่มจุดข้อมูลเป็น K กลุ่มโดยลดผลรวมกำลังสองภายในกลุ่ม (WCSS) แสดงผลกลุ่มด้วยแผนภูมิกระจายสีและเครื่องหมายจุดศูนย์กลาง
การจัดกลุ่ม K-Means คืออะไร?
K-Means แบ่ง n จุดข้อมูลเป็น K กลุ่มโดยลด WCSS แต่ละกลุ่มแสดงด้วยจุดศูนย์กลาง
เริ่มจาก K จุดศูนย์กลาง สลับ: (1) กำหนดแต่ละจุดไปยังจุดศูนย์กลางที่ใกล้ที่สุด (2) คำนวณจุดศูนย์กลางใหม่ มักลู่เข้าใน 10-50 รอบ
การเลือก K สำคัญ วิธีข้อศอกวาด WCSS เทียบ K จุดที่โค้งงอแสดง K ที่เหมาะสม Silhouette ใกล้ +1 แสดงการจัดกลุ่มที่ดี
Formula: WCSS = Σₖ Σ(xᵢ ∈ Cₖ) ‖xᵢ − μₖ‖² โดยที่ μₖ = เซนทรอยด์ของคลัสเตอร์ Cₖ ‖·‖ = ระยะทางแบบยุคลิด อัลกอริทึมลู่เข้าเมื่อการจัดกลุ่มไม่เปลี่ยนแปลง
ตัวอย่างการคำนวณ
จุด: (1,1), (1.5,2), (3,4), (5,7), (3.5,5), (4.5,5), (3.5,4.5) K=2 จุดศูนย์กลาง μ₁≈(1.25,1.5), μ₂≈(3.9,5.1) WCSS = 8.525
เมื่อใดควรใช้เครื่องคำนวณนี้
- นักวิเคราะห์การตลาดที่แบ่งกลุ่มลูกค้าตามพฤติกรรมการซื้อ ข้อมูลประชากร หรือเมตริกการมีส่วนร่วม
- วิศวกรคุณภาพที่จัดกลุ่มข้อมูลการวัดเพื่อระบุประชากรที่แตกต่างกันหรือโหมดความเสียหายในข้อมูลการผลิต
- นักวิจัยที่ทำการจำแนกแบบไม่มีผู้สอนเพื่อค้นหากลุ่มตามธรรมชาติในชุดข้อมูลหลายมิติ
- นักวิทยาศาสตร์ข้อมูลที่ทำการวิเคราะห์เชิงสำรวจเพื่อดูว่าข้อมูลมีคลัสเตอร์ที่มีความหมายหรือไม่ ก่อนใช้การเรียนรู้แบบมีผู้สอน
ข้อผิดพลาดที่ควรหลีกเลี่ยง
- ไม่ปรับมาตรฐานฟีเจอร์ก่อนจัดคลัสเตอร์ — หากตัวแปรหนึ่งมีพิสัย 0-1000 และอีกตัว 0-1 K-Means จะถูกครอบงำโดยตัวแปรที่มีสเกลใหญ่กว่า; ปรับมาตรฐานให้มีค่าเฉลี่ยศูนย์และความแปรปรวนหนึ่งเสมอ
- เลือก K ตามสัญชาตญาณโดยไม่ใช้ Elbow Method หรือ Silhouette Score — ค่า K ที่ตั้งตามอำเภอใจให้คลัสเตอร์ที่ไร้ความหมาย; ใช้เกณฑ์เชิงปริมาณเพื่อรองรับการเลือก
- รัน K-Means เพียงครั้งเดียว — การกำหนดค่าเริ่มต้นแบบสุ่มอาจให้ผลต่างกันในแต่ละรอบ; รันหลายครั้ง (10-20 ครั้ง) ด้วย seed ต่างกันแล้วเลือก WCSS ที่ดีที่สุด
- ใช้ K-Means กับข้อมูลที่คลัสเตอร์ไม่เป็นทรงกลมหรือซ้อนทับกัน — K-Means สมมติคลัสเตอร์แบบนูนและขนาดเท่ากัน; ใช้ DBSCAN หรือ Gaussian Mixture Models สำหรับคลัสเตอร์รูปร่างไม่ปกติ
วิธีตีความผลลัพธ์
- WCSS ที่ต่ำกว่าบ่งชี้คลัสเตอร์ที่แน่นกว่า แต่ WCSS จะลดลงเสมอเมื่อ K เพิ่มขึ้น — ใช้ Elbow Method หาค่า K ที่การเพิ่มคลัสเตอร์ไม่ให้การปรับปรุงที่มีนัยสำคัญอีก
- ขนาดคลัสเตอร์ควรมีความหมายต่อการใช้งานของคุณ — คลัสเตอร์ที่มีเพียง 1-2 จุดอาจเป็นกลุ่มค่าผิดปกติมากกว่าคลัสเตอร์จริง
- ตรวจสอบพิกัดเซนทรอยด์เพื่อทำความเข้าใจว่าแต่ละคลัสเตอร์แทนอะไร — เซนทรอยด์คือสมาชิกเฉลี่ยและเป็นตัวกำหนดลักษณะของคลัสเตอร์
มาตรฐานและเอกสารอ้างอิง
- MacQueen, J. (1967), 'Some Methods for Classification and Analysis of Multivariate Observations', Proc. 5th Berkeley Symposium — ที่มาของคำว่า 'k-means'
- Lloyd, S. (1957, ตีพิมพ์ 1982), 'Least Squares Quantization in PCM', IEEE Transactions on Information Theory — การวนซ้ำกำหนดกลุ่ม-อัปเดตเซนทรอยด์แบบมาตรฐาน
- Jain, A. K. (2010), 'Data Clustering: 50 Years Beyond K-Means', Pattern Recognition Letters — การสำรวจแนวปฏิบัติ k-means การกำหนดค่าเริ่มต้น และการเลือก K
คำถามที่พบบ่อย
เลือก K อย่างไร?
วิธีข้อศอก: วาด WCSS สำหรับ K=1-10 เลือกจุดโค้งงอ หรือเลือก K ที่มี Silhouette สูงที่สุด
ข้อจำกัดของ K-Means?
สมมติกลุ่มทรงกลม ไวต่อค่าผิดปกติ ตรวจจับกลุ่มไม่นูนไม่ได้ พิจารณา DBSCAN หรือ GMM