PCA ลดมิติ

การวิเคราะห์องค์ประกอบหลัก (PCA) คืออะไร?

PCA แปลงตัวแปรที่สัมพันธ์กันเป็นชุดตัวแปรไม่สัมพันธ์กันเรียกว่าองค์ประกอบหลัก แต่ละองค์ประกอบจับความแปรปรวนสูงสุด องค์ประกอบแรกๆ มักจับ 80-95% ของทั้งหมด

PCA คำนวณเวกเตอร์ลักษณะเฉพาะและค่าลักษณะเฉพาะของเมทริกซ์ความแปรปรวนร่วม การทำให้เป็นมาตรฐานก่อน PCA เป็นเรื่องปกติ

Scree Plot แสดงค่าลักษณะเฉพาะตามหมายเลของค์ประกอบ Biplot แสดงคะแนนและน้ำหนักเพื่อตีความ

Formula: เมทริกซ์ความแปรปรวนร่วม: C = (1/(n−1)) XᵀX (X ปรับศูนย์กลางแล้ว) การแยกค่าเฉพาะ: C·v = λ·v คะแนน PC: Z = X·V สัดส่วนความแปรปรวนที่อธิบายได้ = λₖ / Σλᵢ ปรับมาตรฐาน (ค่าเริ่มต้น): หารแต่ละคอลัมน์ที่ปรับศูนย์แล้วด้วยส่วนเบี่ยงเบนมาตรฐานก่อน — C กลายเป็นเมทริกซ์สหสัมพันธ์ R และ Σλᵢ = จำนวนตัวแปร

ตัวอย่างการคำนวณ

ชิ้นงาน 5 ชิ้น วัดสามมิติ (มม.): ยาว 24/26/25/28/27 กว้าง 35/35/37/38/40 สูง 13/14/14/15/14 เมทริกซ์ความแปรปรวนร่วมมีค่าลักษณะเฉพาะ λ₁ = 6.21 λ₂ = 1.22 λ₃ = 0.07 ความแปรปรวนรวม 7.50 PC1 อธิบาย 6.21/7.50 = 82.7% PC2 16.3% สะสม 99.0% — เก็บ 2 องค์ประกอบลดสามมิติเหลือสองโดยคงความแปรปรวน 99% ตัวแปรทั้งสามมีหน่วยเดียวกันจึงแยกเมทริกซ์ความแปรปรวนร่วมได้ถูกต้อง หากหน่วยต่างกันต้องทำให้เป็นมาตรฐานก่อน มิฉะนั้นตัวแปรที่มีตัวเลขใหญ่สุดจะครอบงำ PC1 หากต้องการได้ตัวเลขเหล่านี้ในเครื่องคำนวณ ให้ยกเลิกการเลือก «ปรับมาตรฐานตัวแปร» — ค่าเริ่มต้นคือเปิด ซึ่งจะแยกเมทริกซ์สหสัมพันธ์แทน

เมื่อใดควรใช้เครื่องคำนวณนี้

• นักวิทยาศาสตร์ข้อมูลที่ลดชุดฟีเจอร์มิติสูง (50+ ตัวแปร) ให้เหลือจำนวนองค์ประกอบที่จัดการได้ก่อนป้อนเข้าโมเดลแมชชีนเลิร์นนิง
• นักวิจัยที่แสดงภาพข้อมูลมิติสูงใน 2D หรือ 3D โดยใช้องค์ประกอบหลัก 2-3 ตัวแรกเพื่อตรวจหารูปแบบหรือคลัสเตอร์
• วิศวกรคุณภาพที่ระบุแหล่งความแปรผันหลักในกระบวนการผลิตที่มีหลายตัวแปรด้วยการวิเคราะห์ปัจจัย
• นักวิเคราะห์ที่กำจัด multicollinearity ออกจากตัวแปรพยากรณ์ โดยแทนที่ฟีเจอร์ที่มีสหสัมพันธ์กันด้วยองค์ประกอบหลักที่ไม่มีสหสัมพันธ์

ข้อผิดพลาดที่ควรหลีกเลี่ยง

• ไม่ปรับมาตรฐานข้อมูลก่อนทำ PCA — ตัวแปรที่มีสเกลใหญ่กว่าจะครอบงำความแปรปรวน และองค์ประกอบแรกจะสะท้อนแค่ตัวแปรที่มีความแปรปรวนสูงสุด; ปรับมาตรฐานให้มีค่าเฉลี่ยศูนย์และความแปรปรวนหนึ่งเสมอ
• เก็บองค์ประกอบน้อยเกินไปจนสูญเสียข้อมูลสำคัญ — หากความแปรปรวนสะสมที่อธิบายได้ต่ำกว่า 70% แสดงว่ากำลังทิ้งสัญญาณสำคัญ; ตั้งเป้า 80-95%
• ตีความองค์ประกอบหลักเป็นตัวแปรเดี่ยว — PC คือผลรวมเชิงเส้นของตัวแปรตั้งต้นทั้งหมด; มันแทนทิศทางที่มีความแปรปรวนสูงสุด ไม่ใช่ฟีเจอร์เดี่ยว
• ใช้ PCA กับข้อมูลที่มีจำนวนค่าสังเกตน้อยมากเมื่อเทียบกับจำนวนตัวแปร — PCA ต้องการค่าสังเกตอย่างน้อยเท่ากับจำนวนตัวแปร (ในอุดมคติคือ 5-10 เท่า) เพื่อให้ผลที่เสถียร

วิธีตีความผลลัพธ์

• หากองค์ประกอบ 2-3 ตัวแรกอธิบายความแปรปรวนได้ 80% ขึ้นไป ข้อมูลของคุณมีมิติต่ำโดยพฤตินัย และ biplot ให้ภาพสรุปที่มีความหมาย
• Loadings ที่มีค่าสัมบูรณ์สูงบ่งชี้ว่าตัวแปรตั้งต้นใดมีส่วนมากที่สุดในแต่ละองค์ประกอบ — ช่วยให้ตีความได้ว่าองค์ประกอบนั้นแทนอะไร
• ช่องว่างขนาดใหญ่ระหว่างค่าเฉพาะ (eigenvalue) ที่อยู่ติดกันใน scree plot บ่งชี้ขอบเขตมิติตามธรรมชาติ — องค์ประกอบหลังช่องว่างส่วนใหญ่เป็นเพียงสัญญาณรบกวน

มาตรฐานและเอกสารอ้างอิง

• Pearson, K. (1901), 'On Lines and Planes of Closest Fit to Systems of Points in Space', Philosophical Magazine — ที่มาเชิงเรขาคณิตของการวิเคราะห์องค์ประกอบหลัก
• Hotelling, H. (1933), 'Analysis of a Complex of Statistical Variables into Principal Components', Journal of Educational Psychology — การกำหนดสูตร PCA แบบมุ่งความแปรปรวนสูงสุด
• Jolliffe, I. T., Principal Component Analysis (Springer) — เอกสารอ้างอิงสมัยใหม่ที่ครอบคลุม รวมถึงกฎการเลือกจำนวนองค์ประกอบที่เก็บไว้

คำถามที่พบบ่อย

ต้องทำให้เป็นมาตรฐานก่อน PCA ไหม?

ใช่ เกือบเสมอ ตัวแปรที่มีหน่วย/สเกลต่างกันจะทำให้ PCA ถูกครอบงำ ทำให้เป็นค่าเฉลี่ย 0 ความแปรปรวน 1

ควรเก็บกี่องค์ประกอบ?

เก็บจนความแปรปรวนสะสม 80-95% ใช้ 'ข้อศอก' ของ Scree Plot หรือกฎ Kaiser (ค่าลักษณะเฉพาะ > 1)