넘스탯
DATA ANALYTICS & INSIGHTS
확률에서 LLM까지 – 데이터 사이언스 전문 교육 플랫폼
사전학습·파인튜닝 실습실
미니 언어 모델에 도메인 말뭉치를 더해가며, 파인튜닝이 다음 단어 확률 분포를 어떻게 이동시키는지 직접 확인해 보세요.
원하는 개념·랩·가이드를 검색해보세요
Ctrl K1. 파인튜닝에 사용할 도메인 말뭉치
법률 문서
의료 기록
2. 파인튜닝 강도: 3 (도메인 데이터 3회 반복 학습)
3. 모델에게 물어볼 문맥 (이 단어 다음에 무엇이 올까?)
"계약은 ___"
"치료는 ___"
"계약은 ___" 다음 단어 확률 — 파인튜닝 전 vs 후
사전학습만 (기반 모델)
약속이다
67%
지켜야
33%
파인튜닝 후 (법률 문서 × 3)
무효이다
50%
해지된다
17%
취소된다
17%
약속이다
11%
지켜야
6%
강도를 올릴수록 확률 분포가 도메인 말뭉치 쪽으로 이동합니다 — 이것이 파인튜닝의 원리입니다.
학습에 쓰인 말뭉치
사전학습(일반)
계약은 약속이다. 계약은 지켜야 한다. 계약은 약속이다. 치료는 병원에서 받는다. 치료는 쉬는 것이다. 치료는 병원에서 받는다.
파인튜닝(법률 문서)
계약은 무효이다. 계약은 해지된다. 계약은 무효이다. 계약은 취소된다. 계약은 무효이다.
직접 확인해 볼 것
- 강도 0(파인튜닝 안 함)에서 "계약은" 다음은 무엇이 1위인가요? 강도를 올리면 언제 "무효이다"가 역전하나요?
- 법률 도메인으로 파인튜닝해도 "치료는"의 분포는 거의 안 변합니다 — 파인튜닝은 도메인이 다루는 문맥만 주로 바꿉니다.
- 강도 10에서 일반 지식("약속이다")이 얼마나 남아 있나요? 과한 파인튜닝이 일반 능력을 잊게 하는(파괴적 망각) 축소판입니다.
- 실제 파인튜닝은 신경망 가중치를 조정하지만, "도메인 데이터가 다음 토큰 확률을 원하는 방향으로 이동"이라는 원리는 여기서 본 그대로입니다.