회귀분석 계산기
x,y 데이터에 대한 선형 회귀분석 수행. 짝을 이룬 x,y 데이터에 선형 회귀 모델(y = mx + b)을 적합하여 기울기, 절편, 결정계수(R²), 회귀식을 계산합니다. 선형 회귀는 관측된 (x, y) 데이터에 직선 y = mx + b를 맞추며, 잔차의 제곱합을 최소화합니다. 이…
짝을 이룬 x,y 데이터에 선형 회귀 모델(y = mx + b)을 적합하여 기울기, 절편, 결정계수(R²), 회귀식을 계산합니다.
선형 회귀란 무엇인가요?
선형 회귀는 관측된 (x, y) 데이터에 직선 y = mx + b를 맞추며, 잔차의 제곱합을 최소화합니다. 이 최소자승법(OLS)은 가우스-마르코프 가정 하에서 최적 선형 불편 추정량을 생성합니다.
기울기(m)는 x가 1단위 증가할 때 y의 변화를 나타냅니다. 절편(b)은 x = 0일 때 예측된 y입니다. 결정계수(R²)는 모델이 설명하는 y 분산의 비율을 측정합니다.
선형 회귀는 선형 관계, 잔차의 등분산성, 관측의 독립성, 대략 정규 잔차를 가정합니다. 이러한 가정 위반은 편향되거나 비효율적인 추정치로 이어질 수 있습니다.
Formula: y = mx + b m = [nΣxᵢyᵢ − ΣxᵢΣyᵢ] / [nΣxᵢ² − (Σxᵢ)²] b = ȳ − m·x̄ R² = 1 − Σ(yᵢ − ŷᵢ)² / Σ(yᵢ − ȳ)²
계산 예시
데이터: (1,2), (2,4), (3,5), (4,4), (5,5). n=5, Σx=15, Σy=20, Σxy=66, Σx²=55. m = (5×66 − 15×20)/(5×55 − 225) = (330−300)/(275−225) = 30/50 = 0.6. b = 4 − 0.6×3 = 2.2. 회귀식: y = 0.6x + 2.2. R² = 0.6.
이 계산기를 사용해야 할 때
- 실험 데이터에서 독립 변수와 측정 결과 간의 관계를 정량화하는 과학자
- 광고 지출을 기반으로 미래 매출을 추정하는 간단한 예측 모델을 만드는 비즈니스 분석가
- 회귀분석으로 공정 파라미터와 제품 규격 간의 상관성을 파악하는 품질 엔지니어
- 데이터셋에 직선을 적합하고 기울기, 절편, R-제곱 값을 해석하며 회귀의 기초를 배우는 학생
피해야 할 일반적인 실수
- 상관이 인과를 증명한다고 가정 — 두 변수 사이의 강한 선형 관계가 한 변수가 다른 변수의 원인임을 증명하지는 않습니다; 교란 변수가 원인일 수 있습니다
- 데이터 범위를 크게 벗어난 외삽 — 선형 모델은 관측된 x 범위 내에서만 검증된 것입니다; 이 범위 밖의 예측은 신뢰할 수 없으며 갈수록 부정확해집니다
- 잔차 패턴을 무시 — 잔차가 체계적 패턴(예: U자형)을 보이면 선형 모델이 부적합한 것이므로 비선형 모델을 고려해야 합니다
- R-제곱만으로 모델 품질을 판단 — 낮은 R-제곱이 관계를 부정하는 것도, 높은 R-제곱이 관계를 확증하는 것도 아닙니다; 항상 가정과 잔차를 확인하세요
결과 해석 방법
- 기울기(m)는 x가 1단위 증가할 때 y가 얼마나 변하는지 알려줍니다 — 기울기 2.5는 x가 1단위 증가할 때마다 y가 2.5단위 증가한다는 뜻입니다
- R-제곱 0.85는 y 변동의 85%가 x로 설명된다는 뜻입니다 — 나머지 15%는 다른 요인이나 잡음 때문입니다
- 절편(b)이 음수이거나 비현실적으로 크다면 선형 모델이 x = 0 부근에서 적용되지 않을 수 있습니다 — 절편은 x = 0이 데이터 범위 안에 있을 때만 의미가 있습니다
관련 표준 및 참고자료
- Legendre, A.-M. (1805), Nouvelles méthodes pour la détermination des orbites des comètes — 최소제곱법이 처음 발표된 문헌
- Draper & Smith, Applied Regression Analysis (Wiley) — 최소제곱 적합과 잔차 진단의 고전적 참고서
- NIST/SEMATECH e-Handbook of Statistical Methods (Section 4, Process Modeling) — 선형회귀와 모형 검증에 대한 실무 지침
자주 묻는 질문
R²은 무엇을 알려주며 '좋은' 값은 무엇인가요?
R²는 모델이 설명하는 종속 변수의 분산 비율을 나타냅니다. 자연과학에서는 R² > 0.95가 일반적입니다. 사회과학에서는 0.3-0.7이 허용될 수 있습니다. 높은 R²가 인과관계를 증명하지 않습니다.
비선형 데이터에 선형 회귀를 사용할 수 있나요?
직접적으로는 불가능합니다. 관계가 곡선형이면 다항 회귀, 로그 변환 또는 기타 비선형 접근 방식을 고려하세요. 잔차 대 적합값 플롯이 비선형성을 드러낼 것입니다.