넘스탯
LEARN · SIMULATE · VERIFY
확률부터 LLM까지 — 데이터 사이언스 자기주도 학습 플랫폼
확률부터 LLM까지 — 데이터 사이언스 자기주도 학습 플랫폼
일반화 능력은 모델이 훈련 데이터에서 배운 패턴을 처음 보는 새 데이터에도 올바르게 적용하는 능력이다.
이 내용은 넘스탯의 과적합 진단 시뮬레이터에서 직접 실험으로 확인할 수 있습니다.
각 단계를 클릭하면 해당 학습 내용을 볼 수 있습니다
학습 진도 (완료한 단계)
0%
일반화(generalization)는 모델이 훈련에 사용한 데이터가 아니라, 처음 보는 새 데이터에서도 좋은 성능을 내는 능력입니다. 기계학습의 진짜 목표는 훈련 데이터를 잘 맞히는 것이 아니라 새 데이터를 잘 맞히는 것이므로, 일반화는 기계학습 전체를 관통하는 핵심 개념입니다. 훈련 데이터만 지나치게 잘 맞히고 새 데이터에서 무너지는 현상을 과적합(overfitting), 훈련 데이터조차 제대로 맞히지 못하는 현상을 과소적합(underfitting)이라 합니다.
손글씨 숫자 분류 (교육용 시나리오): 손글씨 숫자를 구분하는 모델을 훈련 이미지 1,000장으로 학습시켰습니다. - 모델 A: 훈련 이미지 정확도 100%, 새 이미지 정확도 72% → 훈련 이미지의 필체 하나하나(잡음)까지 외워버린 과적합 상태입니다. - 모델 B: 훈련 이미지 정확도 95%, 새 이미지 정확도 93% → 훈련에서 조금 틀리더라도 숫자의 일반적인 모양(패턴)을 배웠습니다. 실제 서비스에 배포해야 할 모델은 A가 아니라 B입니다. 사용자가 쓰는 손글씨는 모두 "처음 보는 이미지"이기 때문입니다.
정답: 아닙니다. 훈련 데이터 정확도는 "기출문제 점수"일 뿐입니다. 훈련 데이터의 잡음까지 암기해서 100%가 나온 것일 수 있으며, 이 경우 처음 보는 데이터에서는 성능이 크게 떨어집니다. 좋은 모델인지의 판단 기준은 훈련에 쓰지 않은 데이터에서의 성능입니다.
정답: 과적합은 기출문제 답만 통째로 외운 학생과 같습니다 — 기출(훈련)은 만점이지만 새 문제(테스트)는 못 풉니다. 과소적합은 공부 자체가 부족해 원리도 암기도 안 된 학생과 같습니다 — 기출문제부터 틀리고 새 문제도 당연히 못 풉니다.
정답: 모델은 훈련 데이터에 맞춰 만들어졌으므로, 훈련 데이터로 성능을 재면 "암기 실력"과 "이해 실력"이 구분되지 않습니다. 훈련에 전혀 쓰지 않은 데이터는 모델 입장에서 처음 보는 문제이므로, 여기서의 성능이 곧 새 데이터에 대한 실력(일반화 능력)을 보여줍니다.