선형 회귀 (Linear Regression)

마일스톤 학습법으로 단계별 완전 정복

회귀분석

최소제곱법

예측모델

통계학습

선형모델

이 개념 직접 실험하기 — 경사하강 선형 회귀 실습

이 학습을 통해 달성할 수 있는 목표

기초 이해

• 선형 회귀의 기본 개념과 용도를 이해한다
• 독립변수와 종속변수의 선형 관계를 파악할 수 있다
• 최소제곱법의 직관적 의미를 설명할 수 있다

심화 학습

• 정규방정식을 이용하여 회귀계수를 계산할 수 있다
• 잔차 분석을 통해 모델의 적합성을 평가할 수 있다
• 다중공선성과 이상치 문제를 진단하고 해결할 수 있다

실무 적용

• 복잡한 실무 데이터에 선형 회귀를 적용할 수 있다
• 모델 가정 위반 시 적절한 대안을 제시할 수 있다
• 비즈니스 문제 해결에 회귀 분석 결과를 활용할 수 있다

한눈에 보기

선형 회귀는 입력의 가중합으로 연속값을 예측하는 모델로, 잔차 제곱합을 최소화하는 최소제곱법으로 계수를 구한다.

각 계수는 "다른 변수를 고정했을 때 그 변수 한 단위 변화가 예측에 주는 효과"로 해석된다.
선형성·독립성·등분산성·정규성 가정 위에서 추론이 타당하며, 이상치에 민감하다.
가장 기본적인 예측 모델이자 리지·라쏘·로지스틱 회귀의 토대다.

이 내용은 넘스탯의 경사하강 선형 회귀 실습에서 직접 실험으로 확인할 수 있습니다.

학습 로드맵

각 단계를 클릭하면 해당 학습 내용을 볼 수 있습니다

기초 이해

개념 정의와 기본 원리

약 15분

클릭

심화 학습

공식 유도와 다양한 예시

약 35분

클릭

실무 적용

실제 케이스와 고급 응용

약 50분

학습 진도 (완료한 단계)

먼저 알아두면 좋은 개념들

통계학 기초

선형대수

기초 이해선형 회귀의 기본 개념

선형 회귀의 기본 개념

난이도 2/5

약 15분

선형 회귀가 무엇인지, 왜 사용하는지, 어떤 상황에서 적용할 수 있는지 직관적으로 이해해봅시다.

선형 회귀는 마치 데이터 점들 사이를 지나는 '최적의 직선'을 찾는 것과 같습니다. 예를 들어, 집의 크기(독립변수)에 따른 집값(종속변수)의 관계를 직선으로 나타내어 새로운 집의 가격을 예측할 수 있습니다.

핵심 포인트

•독립변수와 종속변수 간의 선형 관계를 가정합니다
•최소제곱법을 사용하여 오차를 최소화하는 직선을 찾습니다
•해석이 쉽고 계산이 빠른 기본적인 예측 모델입니다
•과적합 위험이 적어 작은 데이터셋에도 안정적으로 적용됩니다

간단한 예시

온라인 광고비(x)와 매출액(y)의 관계를 분석한다고 가정해봅시다. 광고비가 100만원일 때 매출이 500만원, 200만원일 때 900만원이라면, 선형 회귀는 y = 4x + 100과 같은 직선 방정식을 찾아 광고비 150만원일 때의 매출(700만원)을 예측할 수 있습니다.

기계학습 이론 페이지로 돌아가기