PCA Giảm chiều

Phân tích thành phần chính (PCA) là gì?

PCA biến đổi các biến tương quan thành tập biến không tương quan gọi là thành phần chính. Mỗi thành phần nắm bắt phương sai tối đa còn lại. Vài thành phần đầu thường nắm 80-95% tổng phương sai.

PCA tính vector riêng và giá trị riêng của ma trận hiệp phương sai. Vector riêng xác định hướng trục mới, giá trị riêng lượng hóa phương sai. Chuẩn hóa dữ liệu trước PCA là phổ biến.

Biểu đồ scree cho thấy giá trị riêng theo số thành phần. Biplot trực quan hóa điểm số và tải trọng để giải thích ý nghĩa mỗi thành phần.

Formula: Ma trận hiệp phương sai: C = (1/(n−1)) XᵀX (X đã quy tâm) Phân rã trị riêng: C·v = λ·v Điểm PC: Z = X·V Phương sai giải thích = λₖ / Σλᵢ Chuẩn hóa (mặc định): trước tiên chia mỗi cột đã trung tâm hóa cho độ lệch chuẩn của nó — C trở thành ma trận tương quan R và Σλᵢ = số biến

Ví dụ tính toán

Năm chi tiết đo ba kích thước (mm): dài 24/26/25/28/27, rộng 35/35/37/38/40, cao 13/14/14/15/14. Ma trận hiệp phương sai có giá trị riêng λ₁ = 6.21, λ₂ = 1.22, λ₃ = 0.07, tổng phương sai 7.50. PC1 giải thích 6.21/7.50 = 82.7%, PC2 16.3%, tích lũy 99.0% — giữ 2 thành phần giảm ba chiều xuống hai và bảo toàn 99% phương sai. Ba biến cùng đơn vị nên phân rã ma trận hiệp phương sai là đúng; nếu khác đơn vị cần chuẩn hóa trước, nếu không biến có số lớn nhất sẽ chi phối PC1. Để tái tạo các số này trong máy tính, hãy bỏ chọn Chuẩn hóa biến — tùy chọn này bật theo mặc định và khi đó ma trận tương quan được phân tích.

Khi nào sử dụng công cụ này

• Nhà khoa học dữ liệu giảm tập đặc trưng nhiều chiều (50+ biến) xuống số thành phần dễ quản lý trước khi đưa vào mô hình học máy
• Nhà nghiên cứu trực quan hóa dữ liệu nhiều chiều trong không gian 2D hoặc 3D bằng 2-3 thành phần chính đầu tiên để phát hiện mẫu hình hoặc cụm
• Kỹ sư chất lượng xác định các nguồn biến động chính trong quá trình sản xuất đa biến bằng phân tích yếu tố
• Chuyên viên phân tích loại bỏ đa cộng tuyến khỏi các biến dự báo bằng cách thay các đặc trưng tương quan bằng các thành phần chính không tương quan

Những sai lầm thường gặp

• Không chuẩn hóa dữ liệu trước PCA — các biến có thang lớn hơn chi phối phương sai và thành phần thứ nhất chỉ phản ánh biến có phương sai cao nhất; luôn chuẩn hóa về trung bình 0 và phương sai đơn vị
• Giữ quá ít thành phần và mất thông tin quan trọng — nếu phương sai tích lũy được giải thích dưới 70%, tín hiệu quan trọng đang bị loại bỏ; hãy nhắm tới 80-95%
• Diễn giải thành phần chính như các biến riêng lẻ — các PC là tổ hợp tuyến tính của tất cả biến gốc; chúng đại diện cho các hướng phương sai cực đại, không phải các đặc trưng riêng lẻ
• Áp dụng PCA cho dữ liệu có quá ít quan sát so với số biến — PCA cần ít nhất số quan sát bằng số biến (lý tưởng là gấp 5-10 lần) để cho kết quả ổn định

Cách diễn giải kết quả

• Nếu 2-3 thành phần đầu giải thích trên 80% phương sai, dữ liệu của bạn về thực chất là thấp chiều và biểu đồ biplot cung cấp bản tóm tắt có ý nghĩa
• Các hệ số tải (loadings) có giá trị tuyệt đối cao cho biết biến gốc nào đóng góp nhiều nhất vào từng thành phần — điều này giúp diễn giải ý nghĩa của thành phần
• Khoảng cách lớn giữa các trị riêng liên tiếp trong biểu đồ scree cho thấy ranh giới số chiều tự nhiên — các thành phần sau khoảng cách đó chủ yếu đóng góp nhiễu

Tiêu chuẩn và tài liệu tham khảo

• Pearson, K. (1901), 'On Lines and Planes of Closest Fit to Systems of Points in Space', Philosophical Magazine — nguồn gốc hình học của phân tích thành phần chính
• Hotelling, H. (1933), 'Analysis of a Complex of Statistical Variables into Principal Components', Journal of Educational Psychology — cách phát biểu PCA theo hướng tối đa hóa phương sai
• Jolliffe, I. T., Principal Component Analysis (Springer) — tài liệu tham khảo hiện đại toàn diện bao gồm các quy tắc giữ lại thành phần

Câu hỏi thường gặp

Có cần chuẩn hóa dữ liệu trước PCA không?

Có, gần như luôn luôn. Biến khác đơn vị/thang sẽ khiến PCA bị chi phối bởi biến có phương sai lớn nhất. Chuẩn hóa về trung bình 0, phương sai đơn vị.

Nên giữ bao nhiêu thành phần chính?

Giữ đến khi phương sai tích lũy đạt 80-95%, dùng 'khuỷu tay' biểu đồ scree, hoặc quy tắc Kaiser (giá trị riêng > 1).