프롬프트 Hallucination 방지: '검증된 인용' 기반 요약 기법

요약

LLM이 회의록을 요약할 때 존재하지 않는 내용을 지어내는 환각 현상을 방지하는 두 가지 핵심 프롬프트 기법이 공유되었습니다. 첫 번째 기법은 요약 전에 관련 문장을 원문 그대로 추출하는 '인용 우선(Quote before summarize)' 방식입니다. 원문에서 직접 인용할 수 없는 정보는 요약 섹션에 포함하지 않음으로써 데이터 기반의 요약을 강제할 수 있습니다. 두 번째는 '최소 두 개 이상의 출처(Two-source minimum)' 원칙으로, 서로 다른 두 문장에서 뒷받침되지 않는 정보는 주제로 간주하지 않고 제외하는 방식입니다. 이 두 가지 제약 조건을 프롬프트에 순차적으로 적용하면 모델이 불확실한 내용을 허구로 생성하는 빈도를 획기적으로 낮출 수 있습니다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.