선형 회귀 실습

Q: 경사하강법의 학습률을 10배로 크게 올리면 학습은 어떻게 될까요?

학습률은 한 걸음의 보폭입니다. 너무 크면 골짜기 바닥을 계속 지나쳐 손실이 요동치거나 커지고(발산), 너무 작으면 하염없이 느립니다. 넘스탯(NumStats)의 브라우저 시뮬레이션에서 직접 실험으로 확인할 수 있습니다.

Q: 에폭(훈련 횟수)을 계속 늘리면 손실(MSE)은 어디까지 줄어들까요?

손실의 바닥은 데이터의 노이즈가 결정합니다. 모델이 배울 수 있는 것은 패턴까지이고, 노이즈는 어떤 직선으로도 없앨 수 없는 잔차로 남습니다. 넘스탯(NumStats)의 브라우저 시뮬레이션에서 직접 실험으로 확인할 수 있습니다.

경사하강법이 기울기와 절편을 조금씩 고쳐가며 최적의 직선을 찾는 과정을 실시간으로 관찰해 보세요

원하는 개념·랩·가이드를 검색해보세요

Ctrl K

기계학습 실습 메인

최적의 직선은 한 번에 계산되지 않고, 조금씩 찾아갑니다

선형 회귀는 기계학습에서 가장 오래된 도구입니다 — 최소제곱법은 Legendre(1805)와 Gauss가 정립했고, "회귀"라는 이름은 Galton의 평균으로의 회귀 연구에서 왔습니다. 이 실습에서는 그 고전적 문제를 경사하강법으로 조금씩 풀어가는 과정을 눈으로 봅니다. 손실이 줄어드는 모양을 이해하면, 뒤에 배울 신경망 학습도 같은 원리라는 것을 알게 됩니다.

이 페이지에서 배우고 나면

경사하강법이 기울기와 절편을 반복 갱신하며 손실(MSE)을 줄여가는 과정을 실시간으로 확인할 수 있습니다.
학습률과 에포크 수를 바꿨을 때 수렴 속도가 어떻게 달라지는지 비교할 수 있습니다.
MSE와 결정계수(R²)를 읽고 회귀 모델의 적합도를 판단할 수 있습니다.

이 실습의 학습·지표는 전부 실제 계산입니다. 함께 기억할 것:

차트의 데이터는 난수로 생성한 가상 예시입니다. "집값"·"아이스크림 판매량" 등의 이름은 이해를 돕기 위한 것일 뿐 실제 측정 데이터가 아닙니다.
이 정도 규모의 선형 회귀는 실무에서 정규방정식(닫힌 해)으로 한 번에 풉니다 — 경사하강법은 "학습 과정"을 보여주기 위한 선택이며, 특성 수가 매우 많을 때 실용적입니다.
표시되는 MSE·R²는 훈련에 쓴 데이터에서 계산한 값입니다. 별도 테스트 데이터가 없으므로 일반화 성능이 아닙니다.

예측 먼저 — 실험 전에 답을 정해 보세요

예측 → 실험 → 확인

정답을 몰라도 괜찮습니다 — 먼저 예측을 정해야 시뮬레이션 결과가 기억에 남습니다. 예측을 고른 뒤 아래 시뮬레이션으로 직접 확인하고, 그다음 결과를 열어 보세요.

1. 경사하강법의 학습률을 10배로 크게 올리면 학습은 어떻게 될까요?

2. 에폭(훈련 횟수)을 계속 늘리면 손실(MSE)은 어디까지 줄어들까요?

로그인하면 예측 기록이 계정에 저장됩니다

어느 기기에서든 이어서 학습하고, 오답 기반 복습 추천을 받을 수 있습니다.

만 14세 이상이며 이용약관과 개인정보 처리방침에 동의합니다

카카오로 시작하기 네이버로 시작하기 구글로 시작하기

회원가입 절차 없음 — 닉네임만 저장하며, 이메일·연락처는 수집하지 않습니다.

선형 회귀 실습

학습 목표: 선형 회귀의 기본 원리를 이해하고, 경사하강법을 통해 최적의 기울기와 절편을 찾아가는 과정을 시각화로 학습합니다.

데이터셋 설정

데이터셋 유형

아래 차트를 클릭하여 데이터 포인트를 추가하세요.

데이터 시각화 (0개 포인트)

실측 요약 — 이 실습이 보여주는 것

차트를 클릭해 점을 직접 찍거나 생성 규칙이 공개된 합성 데이터 50점을 만들어, 기울기 1·절편 0에서 출발한 경사하강법이 MSE를 줄이며 직선을 데이터에 맞춰가는 과정을 실시간으로 보는 실험입니다. 학습률·에포크·노이즈를 바꾸며 손실 곡선과 MSE·R²를 관찰합니다.

'기본 선형' 데이터의 생성 규칙: y = 0.6x + 2 + 균등 노이즈(노이즈 레벨 10에서 ±0.5) — 이 규칙의 최소제곱 해를 직접 계산하면 전형적으로 기울기 0.60, 절편 2.0, R² ≈ 0.97이고, MSE의 바닥은 노이즈 분산 1/12 ≈ 0.083이다. 어떤 직선도 이 바닥 아래로는 못 내려간다
기본 설정(학습률 0.01, 100에폭)의 경사하강법을 같은 규칙·같은 알고리즘으로 재현하면 전형적으로 기울기 ≈ 0.79, 절편 ≈ 0.76, R² ≈ 0.85에서 멈춘다 — 아직 최적해에 못 간 상태로, 에포크를 1,000으로 늘리면 y = 0.60x + 1.98, R² 0.97까지 수렴한다. 절편 방향의 수렴이 특히 느린 것은 손실 지형이 길쭉한 골짜기이기 때문
'집 크기 vs 가격'(y = 0.5x + 3), '온도 vs 아이스크림 판매량'(y = 0.4x + 3.5)도 전부 규칙 공개 합성 데이터 — 이 실습이 가르치는 것은 데이터의 내용이 아니라, 경사하강법이라는 학습 절차 자체다(같은 원리가 신경망 학습으로 이어진다)

바로잡는 오개념: "에포크를 늘리면 손실(MSE)이 0까지 줄어든다"는 기대 — 손실의 바닥은 데이터의 노이즈가 결정한다. 모델이 배울 수 있는 것은 패턴까지이고, 노이즈는 어떤 직선으로도 없앨 수 없는 잔차로 남는다.

AI 튜터에게 물어보기

베타

— 정답 대신 힌트로 유도합니다. 지금 화면의 실험 상태를 알고 답해요.

예: “방금 결과가 이론과 다른데 왜죠?”, “이 값을 올렸는데 왜 반대로 변하죠?”

AI 답변은 부정확할 수 있습니다. 핵심 개념은 반드시 시뮬레이션 실측으로 확인하세요. 질문 0/5 · 하루 질문 한도가 있습니다

직접 해보기 — 실습 과제

캔버스를 클릭해 점 10개를 직접 찍고 학습을 실행해, 손실 곡선이 감소하다 평평해지는 지점(수렴)을 찾아보세요.
같은 데이터에서 학습률을 최솟값과 최댓값으로 바꿔 두 번 학습시키고, 손실이 줄어드는 속도를 비교해 보세요 — 크다고 항상 빠른 것이 아닙니다.
노이즈 수준을 최소와 최대로 바꿔 샘플 데이터를 각각 생성하고, 학습 후 R² 값이 어떻게 달라지는지 기록해 보세요. 노이즈가 큰 데이터에서 R²가 낮은 것은 모델 탓이 아닙니다.