통계 실험실 차트
넘스탯 로고
넘스탯
LEARN · SIMULATE · VERIFY

확률부터 LLM까지 — 데이터 사이언스 자기주도 학습 플랫폼

로그인
학습 메뉴
도움말
홈

Zero-shot과 Few-shot 프롬프팅

마일스톤 학습법으로 단계별 완전 정복
LLM
Zero-shot
Few-shot
In-context Learning
프롬프팅
GPT-3
파인튜닝 비교
예시 설계
이 개념 직접 실험하기 — 프롬프트 엔지니어링 실습
이 학습을 통해 달성할 수 있는 목표
기초 이해
  • • Zero-shot·One-shot·Few-shot의 차이와 in-context learning의 정의 이해
  • • 예시가 가중치를 바꾸지 않는다는 사실 파악
  • • 예시의 역할이 지식이 아니라 형식·기준 전달임을 이해
심화 학습
  • • 예시가 조건부 확률 분포를 바꾸는 원리 이해
  • • 파인튜닝과의 비용·데이터·유연성 트레이드오프 비교
  • • 대표성·형식 일관성·경계 사례 포함 등 좋은 예시 선택 요령 습득
실무 적용
  • • GPT-3 논문이 정식화한 few-shot 스케일링 관찰의 의미 이해
  • • in-context learning의 작동 원리가 진행 중인 연구 주제임을 파악
  • • 호출량·데이터 축적에 따른 Few-shot과 파인튜닝의 전환 판단 기준 습득
한눈에 보기

Zero-shot과 Few-shot 프롬프팅은 가중치 업데이트 없이 프롬프트만으로 과제를 수행시키는 in-context learning 기법으로, Zero-shot은 지시만, Few-shot은 입력-출력 예시 몇 개를 함께 제시한다.

이 내용은 넘스탯의 프롬프트 엔지니어링 실습에서 직접 실험으로 확인할 수 있습니다.

학습 로드맵

각 단계를 클릭하면 해당 학습 내용을 볼 수 있습니다

기초 이해
개념 정의와 기본 원리
약 15분
클릭
심화 학습
공식 유도와 다양한 예시
약 30분
클릭
실무 적용
실제 케이스와 고급 응용
약 45분

학습 진도 (완료한 단계)

0%

기초 이해예시 몇 개로 일을 시키는 법

기초 이해: 예시 몇 개로 일을 시키는 법

난이도 1/5
약 15분

거대 언어 모델에게 새 과제를 시키는 방법은 두 갈래입니다. 하나는 데이터를 모아 모델을 다시 학습시키는 것(파인튜닝)이고, 다른 하나는 학습 없이 프롬프트에 지시나 예시를 적어 주는 것입니다. 후자를 in-context learning이라고 부릅니다. 지시만 주면 Zero-shot, 예시를 하나 주면 One-shot, 몇 개 주면 Few-shot입니다. 이때 모델의 가중치는 전혀 바뀌지 않습니다. 모델은 프롬프트 안의 예시를 "읽고" 그 패턴을 이어 갈 뿐입니다.

프롬프트 엔지니어링 — 입력 설계로 출력을 끈다모델을 재학습하지 않고, 프롬프트(역할·예시·질문)만으로 원하는 출력을 유도합니다프롬프트역할: 너는 감정 분류기다예시: "최고예요" → 긍정예시: "별로다" → 부정질문: "그저 그래" → ?예시 몇 개 = few-shotLLM(재학습 없음)중립※ “단계별로 생각하라”(사고사슬, CoT)는 중간 추론을 유도해 산술·논리 정확도↑ · 같은 모델도 프롬프트로 성능이 크게 달라짐
핵심 포인트
  • •Zero-shot: 예시 없이 지시문만으로 과제를 시키는 방식
  • •One-shot / Few-shot: 입력-출력 예시를 1개 / 몇 개 프롬프트에 넣어 주는 방식
  • •in-context learning: 가중치 업데이트 없이 프롬프트 문맥만으로 과제에 적응하는 현상 (Brown et al. 2020, GPT-3에서 정식화)
  • •예시의 핵심 역할은 지식 전달이 아니라 과제의 형식·기준·출력 양식 전달
간단한 예시

[Zero-shot 프롬프트 — 분류] 다음 리뷰가 긍정인지 부정인지 한 단어로 답하세요. 리뷰: "배송은 빨랐는데 포장이 찢어져 있었어요." → 모델이 기준을 스스로 정해 답합니다. "긍정적 부분도 있음" 같은 장황한 답이 나올 수 있습니다. [Few-shot 프롬프트 — 같은 과제] 리뷰: "정말 만족합니다. 재구매 의사 있어요." → 긍정 리뷰: "돈 아깝습니다. 추천하지 않아요." → 부정 리뷰: "배송은 빨랐는데 포장이 찢어져 있었어요." → ? 예시 두 개가 "한 단어로, 긍정/부정 중 하나로" 답하라는 형식과 기준을 보여 주므로, 출력이 "부정"처럼 안정됩니다.

이해도 확인하기

정답: 바뀌지 않습니다. 예시는 프롬프트(입력 문맥)에 들어갈 뿐이고, 모델은 그 문맥을 조건으로 다음 토큰을 예측합니다. 가중치를 실제로 바꾸는 것은 파인튜닝이며, 이 점이 두 방식의 근본적인 차이입니다.

정답: Zero-shot은 지시문만 주고, Few-shot은 지시와 함께 입력-출력 예시를 몇 개 제시합니다. 예시가 과제의 형식과 판단 기준을 구체적으로 보여 주므로, 출력 형식이 중요한 과제에서는 Few-shot이 더 안정적인 경향이 있습니다.

정답: 새로운 지식보다는 과제의 형식·기준·출력 양식입니다. 모델은 사전학습에서 이미 얻은 능력을 갖고 있고, 예시는 "그 능력 중 무엇을, 어떤 모양으로 꺼낼지"를 지정하는 역할을 합니다.

LLM 이론 페이지로 돌아가기