다변량 회귀 분석

진단 기능을 포함한 다중 선형 회귀 모델 적합. R², 수정 R², 회귀계수 검정, 다중공선성 VIF, 잔차 진단을 포함한 다중 선형 회귀분석을 수행합니다. 마지막 열이 종속변수로 처리됩니다.

R², 수정 R², 회귀계수 검정, 다중공선성 VIF, 잔차 진단을 포함한 다중 선형 회귀분석을 수행합니다. 마지막 열이 종속변수로 처리됩니다.

다중 선형 회귀란 무엇인가요?

다중 선형 회귀는 반응 변수(y)와 두 개 이상의 예측 변수(x₁, x₂, …, xₚ) 간의 관계를 모델링합니다. 모델 y = β₀ + β₁x₁ + … + βₚxₚ + ε는 최소자승법으로 적합됩니다.

주요 진단: R²(설명된 분산), 수정 R²(예측 변수 수에 대한 벌점), F-검정 p-값, 개별 계수 p-값, VIF(분산팽창인자)로 다중공선성 감지.

VIF > 5-10이면 문제가 있는 다중공선성입니다. 해결책: 중복 변수 제거, 정규화 기법(Ridge, Lasso) 사용. 잔차 플롯에 패턴이 있으면 모델 오사양을 나타냅니다.

Formula: y = β₀ + β₁x₁ + β₂x₂ + ⋯ + βₚxₚ + ε β = (XᵀX)⁻¹Xᵀy R² = 1 − SS_res/SS_tot 수정 R² = 1 − (1−R²)(n−1)/(n−p−1) VIF_j = 1/(1 − R²_j)

계산 예시

면적 x₁(평방피트)과 연식 x₂(년)로 주택 가격 예측. 주택 5채: 면적 1,300/1,800/1,900/2,000/2,400 평방피트, 연식 10/5/12/25/15년, 가격 $150,000/$233,000/$216,000/$208,000/$249,000. 최소제곱 적합 결과 β₀ = 50,000, β₁ = 100, β₂ = −2,000. R² = 0.92, 수정 R² = 0.84. VIF(x₁) = 1.2, VIF(x₂) = 1.2 — 다중공선성 없음.

이 계산기를 사용해야 할 때

유의한 예측 변수를 식별하기 위해 여러 독립 변수와 결과 간의 관계를 모델링하는 연구자
가격, 광고 지출, 계절성 등 여러 요인을 바탕으로 매출 예측 모델을 만드는 비즈니스 분석가
다요인 분석으로 어떤 공정 변수들이 제품 품질에 함께 영향을 미치는지 파악하는 품질 엔지니어
특성 해석에 회귀 계수를 사용하기 전에 다중공선성(VIF)을 점검하는 데이터 과학자

피해야 할 일반적인 실수

VIF 확인 없이 상관성이 높은 예측 변수들을 포함 — 다중공선성은 개별 계수를 신뢰할 수 없게 만들고 부호 반전을 흔히 일으킵니다; 중복 변수는 제거하거나 결합하세요
표본 크기에 비해 예측 변수를 너무 많이 추가 — 경험칙은 예측 변수당 최소 10-20개의 관측치입니다; 이 비율이 너무 낮으면 과적합이 발생합니다
표준화 없이 계수 크기를 해석 — 밀리미터 단위 변수의 계수 100이 미터 단위 변수의 계수 0.5보다 '더 중요한' 것이 아닙니다; 표준화 계수를 비교하세요
잔차 플롯을 무시 — R-제곱이 좋아도 잔차에 패턴이 있으면 모델 설정이 잘못된 것입니다; 잔차가 무작위로 흩어져 있는지 항상 확인하세요

결과 해석 방법

수정 R-제곱이 0.5 미만이면 모델이 변동의 절반도 설명하지 못한다는 뜻입니다 — 더 관련성 높은 예측 변수를 추가하거나 변수 변환을 고려하세요
F p-값이 0.05 미만이면 모델이 전체적으로 통계적으로 유의하다는 뜻입니다 — 최소 하나의 예측 변수가 의미 있게 기여하고 있습니다
개별 계수의 p-값이 0.05를 넘으면 다른 변수들이 주어진 상태에서 그 예측 변수의 기여가 유의하지 않을 수 있습니다 — 모델 단순화를 위해 제거를 고려하세요

자주 묻는 질문

수정 R²란 무엇이며 왜 R²보다 나은가요?

R²는 변수를 추가하면 항상 증가합니다. 수정 R²는 예측 변수 수에 벌점을 부과하여 모델 개선이 불충분하면 감소합니다. 변수 수가 다른 모델 비교에 사용하세요.

높은 VIF 값은 무엇을 의미하나요?

VIF는 계수 분산의 팽창을 측정합니다. VIF = 1은 공선성 없음, VIF > 5는 중간, VIF > 10은 심각한 다중공선성입니다.