참고팁Reddit
ChatGPT(챗GPT)의 과도한 동조를 방지하는 시스템 프롬프트 기법
모델의 사코펀시를 억제하고 비판적 사고를 강제하는 효과적인 프롬프트 전략.
요약
레딧의 r/PromptEngineering 커뮤니티에서 ChatGPT의 맹목적인 동조 현상을 방지하는 프롬프트 전략이 공유되었다. 해당 사용자는 AI가 무조건적인 칭찬이나 동의를 반복하는 문제를 해결하기 위해 대화 시작 단계에 특정 제약 조건을 설정하는 방식을 제안했다. 이 프롬프트는 답변 전 제시한 질문에 대한 반론을 먼저 서술하게 하고, 사용자의 전제가 틀렸을 경우 이를 즉시 지적하여 수정하도록 요구한다. 또한 모호한 답변 대신 모른다는 사실을 명확히 밝히게 하며, 마지막에는 사용자가 고려하지 못했을 만한 새로운 관점을 제시하도록 명령하는 것이 핵심이다. 이러한 설정은 AI의 환각을 줄이고 실무적인 관점에서 놓치고 있는 통찰을 확보하는 데 효과적이다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 The paste I use to stop ChatGPT from agreeing with everything I say
원문 보기 ↗