Chain-of-Thought(CoT) 프롬프팅

마일스톤 학습법으로 단계별 완전 정복

LLM

CoT

Chain-of-Thought

프롬프팅

Few-shot

Zero-shot

Self-Consistency

추론

이 개념 직접 실험하기 — 프롬프트 엔지니어링 실습

이 학습을 통해 달성할 수 있는 목표

기초 이해

• CoT 프롬프팅이 중간 추론 단계를 출력하게 하는 기법임을 이해
• Few-shot CoT와 Zero-shot CoT의 차이 구분
• 재학습 없이 질문 방식만 바꿔 성능을 끌어내는 원리 파악

심화 학습

• Few-shot·Zero-shot CoT 프롬프트를 직접 작성하고 산술을 검산하는 능력
• Self-Consistency의 다수결 원리와 비용 트레이드오프 이해
• CoT 풀이가 그럴듯해도 틀릴 수 있다는 한계 인식

실무 적용

• CoT 이득의 규모 의존성(창발)과 외재화 관점의 설명 이해
• 풀이의 faithfulness 문제와 독립 검증 설계의 필요성 파악
• 교육·업무 자동화 등 실무 시나리오에 CoT와 검산 파이프라인을 결합하는 설계 능력

한눈에 보기

Chain-of-Thought(CoT) 프롬프팅은 모델이 최종 답만 내지 않고 중간 추론 단계를 먼저 출력하도록 유도해, 산수·논리 같은 다단계 문제의 정답률을 높이는 프롬프팅 기법이다.

Wei et al. (2022)은 풀이 과정이 담긴 few-shot 예시를 제시하면 대규모 모델의 다단계 추론 성능이 크게 오른다는 것을 보였다.
Kojima et al. (2022)은 예시 없이 "단계별로 생각해 보자(Let's think step by step)"라는 한 문장만 붙여도 추론이 유도됨을 보였다(Zero-shot CoT).
CoT는 중간 계산을 텍스트로 외재화해 오류를 줄이지만, 그럴듯해 보여도 틀린 추론을 생성할 수 있으므로 검증이 필요하다.

이 내용은 넘스탯의 프롬프트 엔지니어링 실습에서 직접 실험으로 확인할 수 있습니다.

학습 로드맵

각 단계를 클릭하면 해당 학습 내용을 볼 수 있습니다

기초 이해

개념 정의와 기본 원리

약 15분

클릭

심화 학습

공식 유도와 다양한 예시

약 30분

클릭

실무 적용

실제 케이스와 고급 응용

약 45분

학습 진도 (완료한 단계)

먼저 알아두면 좋은 개념들

프롬프트 엔지니어링 →

프롬프트가 출력을 좌우한다는 기본 원리 위에서 CoT를 이해할 수 있음

Zero-shot과 Few-shot 프롬프팅 →

Few-shot CoT는 예시 제시(few-shot) 방식에 풀이 과정을 결합한 확장이므로 선행 이해가 필요함

기초 이해답만 말고 풀이 과정을 쓰게 하기

기초 이해: 답만 말고 풀이 과정을 쓰게 하기

난이도 1/5

약 15분

복잡한 문제를 모델에게 물으면 답이 자주 틀립니다. 그런데 "풀이 과정을 먼저 쓰고 답을 말해 줘"라고 요청하면 정답률이 눈에 띄게 오릅니다. 이렇게 모델이 중간 추론 단계를 출력하도록 유도하는 기법이 Chain-of-Thought(생각의 사슬, CoT) 프롬프팅입니다. 모델의 능력을 바꾸는 것이 아니라, 이미 가진 능력을 끌어내는 질문 방식의 변화입니다.

수학 시험에서 암산으로 한 번에 답을 쓰는 학생과, 연습장에 풀이를 차근차근 적는 학생을 떠올려 보세요. 여러 단계가 얽힌 문제일수록 연습장에 적는 쪽이 실수가 적습니다. CoT는 모델에게 연습장을 쥐여 주는 것과 같습니다. 모델은 한 번에 다음 토큰을 이어 쓰는 방식으로 동작하므로, 중간 계산을 글로 적게 하면 그 글 자체가 다음 단계의 근거 자료가 됩니다.

핵심 포인트

•CoT 프롬프팅: 최종 답 전에 중간 추론 단계를 출력하게 하는 기법
•Few-shot CoT: 풀이 과정이 담긴 예시 문제를 몇 개 보여주고 새 문제를 묻는 방식
•Zero-shot CoT: 예시 없이 "단계별로 생각해 보자" 같은 지시문 한 줄만 붙이는 방식
•모델을 다시 학습시키지 않고 프롬프트만 바꿔서 얻는 성능 향상

간단한 예시

문제: "지수는 연필 12자루를 갖고 있었습니다. 친구에게 5자루를 주고, 문구점에서 3자루를 새로 샀습니다. 지금 연필은 몇 자루인가요?" [CoT 없이] "답만 말해 줘." → 모델이 단계를 건너뛰다 "14자루"처럼 틀릴 수 있음 [CoT 적용] "풀이 과정을 단계별로 쓰고 답해 줘." → 1단계: 처음 연필은 12자루 2단계: 5자루를 주었으므로 12 - 5 = 7자루 3단계: 3자루를 샀으므로 7 + 3 = 10자루 답: 10자루 같은 모델, 같은 문제인데 질문 방식만 바꿔 중간 계산을 글로 적게 한 것입니다.

이해도 확인하기

정답: 모델이 최종 답을 내기 전에 중간 추론 단계를 먼저 출력하도록 유도하는 것입니다. 여러 단계가 필요한 문제에서 단계를 건너뛰며 생기는 오류를 줄여 줍니다.

정답: Few-shot CoT는 풀이 과정이 담긴 예시 문제를 몇 개 보여준 뒤 새 문제를 묻고, Zero-shot CoT는 예시 없이 "단계별로 생각해 보자" 같은 지시문만 붙입니다. 둘 다 중간 추론을 출력하게 만드는 점은 같습니다.

정답: 아닙니다. 모델의 파라미터는 그대로이고, 이미 학습된 능력을 더 잘 끌어내는 질문 방식의 변화입니다. 그래서 재학습 없이 프롬프트만 바꿔 적용할 수 있습니다.

딥러닝 이론 페이지로 돌아가기

LEARN · SIMULATE · VERIFY

Chain-of-Thought(CoT) 프롬프팅

마일스톤 학습법으로 단계별 완전 정복

이 학습을 통해 달성할 수 있는 목표

기초 이해

심화 학습

실무 적용

한눈에 보기

학습 로드맵

기초 이해

심화 학습

실무 적용

먼저 알아두면 좋은 개념들

프롬프트 엔지니어링 →

Zero-shot과 Few-shot 프롬프팅 →

기초 이해답만 말고 풀이 과정을 쓰게 하기

기초 이해: 답만 말고 풀이 과정을 쓰게 하기

핵심 포인트

간단한 예시

이해도 확인하기

Q1: CoT 프롬프팅이 하는 일을 한 문장으로 말하면 무엇인가요?

Q2: Few-shot CoT와 Zero-shot CoT의 차이는 무엇인가요?

Q3: CoT를 쓰면 모델 자체가 더 똑똑해지는 건가요?