통계 실험실 차트
넘스탯 로고
넘스탯
LEARN · SIMULATE · VERIFY

확률부터 LLM까지, 원리부터 제대로 배우는 자기주도 학습 플랫폼

로그인
학습 메뉴
도움말

회귀 (Regression)

마일스톤 학습법으로 단계별 완전 정복
회귀
regression
최소제곱법
잔차
MSE
RMSE
MAE
R2
편향-분산
이 개념 직접 실험하기 — 회귀 실습
이 학습을 통해 달성할 수 있는 목표
기초 이해
  • • 회귀가 연속적인 숫자를 예측하는 지도학습 문제임을 이해한다
  • • 산점도-추세선-잔차의 관계를 설명하고 분류 문제와 구분할 수 있다
  • • 상관분석과 회귀의 차이(관계 확인 vs 예측)를 설명할 수 있다
심화 학습
  • • 최소제곱법의 원리(RSS 최소화)를 이해하고 간단한 데이터로 회귀선을 직접 구할 수 있다
  • • MSE·RMSE·MAE·R²를 계산하고 각각의 단위와 해석(RMSE는 원 단위, R²는 분산 설명 비율)을 구분할 수 있다
  • • 표본 내 R²가 변수 추가로 항상 증가한다는 함정과 계수 해석의 "다른 변수 고정" 조건을 설명할 수 있다
실무 적용
  • • 기대 예측 오차를 편향·분산·잡음으로 분해하고 과적합을 편향-분산 관점에서 설명할 수 있다
  • • 규제(regularization)가 필요한 이유와 리지·라쏘의 차이를 개요 수준에서 설명할 수 있다
  • • 잔차 진단으로 선형성·등분산성 위반을 찾아내고 외삽의 위험을 판단할 수 있다
한눈에 보기

회귀는 입력으로부터 연속적인 수치 값을 예측하는 지도학습 과제다.

이 내용은 넘스탯의 회귀 실습에서 직접 실험으로 확인할 수 있습니다.

학습 로드맵

각 단계를 클릭하면 해당 학습 내용을 볼 수 있습니다

기초 이해
개념 정의와 기본 원리
20
클릭
심화 학습
공식 유도와 다양한 예시
40
클릭
실무 적용
실제 케이스와 고급 응용
50

학습 진도 (완료한 단계)

0%

기초회귀란 무엇인가요?

기초: 회귀란 무엇인가요?

난이도 2/5
약 20분

회귀는 입력 데이터로부터 연속적인 숫자 값을 예측하는 지도학습 문제입니다. "이 집의 가격은 얼마일까?", "내일 최고 기온은 몇 도일까?"처럼 답이 범주가 아니라 크기를 가진 수치인 질문에 답합니다.

선형 회귀 — 잔차 제곱합을 최소화하는 직선회귀직선은 점들과의 수직 거리(잔차)의 제곱합이 가장 작아지도록 정해집니다설명변수 x반응변수 y회귀직선 ŷ = ax + b점선(잔차)의 제곱을 모두 더한 값을 가장 작게 만드는 a·b를 찾는 것이 최소제곱법
핵심 포인트
  • 회귀는 이산적인 범주가 아니라 연속적인 숫자를 예측하는 지도학습 문제 (분류와의 핵심 차이)
  • 산점도의 경향을 요약하는 추세선(회귀선)을 학습하고, 이 선으로 새 입력의 값을 예측
  • 잔차(residual) = 실제값 - 예측값. 각 점이 추세선에서 세로로 얼마나 떨어져 있는지를 나타냄
  • 좋은 회귀선이란 잔차들이 전반적으로 작은 선 — 이 직관이 최소제곱법으로 이어짐
간단한 예시

공부 시간과 시험 점수 (교육용 시나리오): 네 학생의 데이터: (1시간, 50점), (2시간, 55점), (3시간, 65점), (4시간, 70점) 산점도를 그려 보면 공부 시간이 늘수록 점수가 오르는 경향이 보입니다. 이 경향을 요약하는 추세선을 구하면 다음과 같습니다. 예측 점수 = 42.5 + 7 × (공부 시간) 3시간 공부한 학생의 예측 점수는 42.5 + 7 × 3 = 63.5점입니다. 실제 점수가 65점이었다면 잔차는 65 - 63.5 = +1.5점입니다.

이해도 확인하기

정답: "다음 달 구매 금액 예측"이 회귀 문제입니다. 금액은 연속적인 숫자이기 때문입니다. 이탈 여부(이탈/유지)는 두 범주 중 하나를 고르는 분류 문제입니다.

정답: 잔차는 실제값에서 예측값을 뺀 값입니다. 잔차가 음수라는 것은 실제값이 예측값보다 작다는 뜻, 즉 모델이 그 점을 실제보다 높게 예측했다는 의미입니다.

정답: 상관분석은 두 변수가 함께 변하는 정도(관계의 방향과 강도)를 측정하는 데서 멈춥니다. 회귀는 그 관계를 구체적인 식(추세선)으로 만들어 새로운 입력에 대한 값을 예측하는 데까지 나아갑니다.

기계학습 이론 페이지로 돌아가기