ChatGPT의 환각 최소화: 'One-down' 기법 기반 프롬프트 튜닝

요약

ChatGPT의 부정확한 답변과 근거 없는 확신에 좌절한 한 사용자가 정확도를 높이기 위한 프롬프트 엔지니어링 전략을 공유했다. 핵심은 모델에게 아는 척하지 말고 모르는 것을 솔직하게 인정하도록 유도하는 이른바 'one-down position' 기법이다. 사용자는 심리학적 접근을 활용해 모델이 무조건 답을 내놓기보다 정보를 탐구하고 확인하는 자세를 취하게 만들었다. 이 과정을 통해 모델은 불확실한 경우 '모른다'거나 '검증할 수 없다'고 명확히 밝히게 되었다. 사용자는 이 방식으로 기존의 지시사항을 정제하여 보다 정확한 결과를 도출하는 10가지 규칙을 수립했다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.