출력 형식 명시와 자기 검증

한눈에 보기

출력 형식 명시는 원하는 응답 구조(표·JSON·번호 목록·글자 수)를 프롬프트에 직접 지정해 후처리 가능한 답을 얻는 기법이고, 자기 검증은 모델에게 자신의 답을 다시 검토·채점시켜 오류를 줄이는 기법이다.

• 형식을 명시하지 않으면 응답 구조가 매번 달라져 프로그램이 파싱하기 어렵다 — 스키마 예시를 보여주면 위반율이 크게 줄고, 위반 시 재요청 루프로 복구할 수 있다.
• Self-Consistency(Wang et al., ICLR 2023)는 같은 질문에 여러 답을 표집한 뒤 다수결로 최종 답을 고르는 방법으로, 추론 문제에서 단일 답보다 정확도가 높아진다는 것이 보고됐다.
• 자기 검증도 같은 모델의 한계를 공유한다 — 모델이 모르는 사실은 검증 단계에서도 잡아내지 못하므로, 사실성 보장이 아니라 오류 확률을 낮추는 장치로 이해해야 한다.

이 내용은 넘스탯의 프롬프트 엔지니어링 실습에서 직접 실험으로 확인할 수 있습니다.