LLM의 '무조건 동의' 방지하는 시스템 프롬프트 설정 팁

요약

Reddit의 r/PromptEngineering 커뮤니티에서 AI 모델의 지나친 동조를 방지하고 비판적 사고를 이끌어내는 시스템 프롬프트 설정법이 공유되었다. 모델의 과도한 친절함이 실질적인 의사결정을 방해한다고 판단한 사용자는, 모델을 단순 조력자가 아닌 냉철한 분석가로 전환하는 맞춤형 지시어를 제안했다. 해당 프롬프트는 사용자의 의견에 대해 무조건 동의하지 않고 먼저 반대 논리를 제시하며, 칭찬이나 완곡한 표현을 배제하고 핵심부터 답변하도록 설정되어 있다. 또한, 모든 주장에는 신뢰도(low/medium/high)를 명시하고 반대 의견을 수용할 기준을 밝히도록 요구한다. 이를 통해 사용자는 모델의 맹목적인 추종 대신 객관적인 제2의 의견을 확보할 수 있다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.