LLM의 '환각' 줄이는 간단한 프롬프트 전략: "데이터 불충분 시 인정하라"

요약

최근 Reddit의 r/PromptEngineering 커뮤니티에서 AI의 답변 거부 설정을 통해 비즈니스 수익성을 개선한 사례가 공유되었다. 작성자는 기존 AI가 충분한 데이터 없이 추정치를 제공해 발생했던 가격 결정 오류 문제로 수익에 타격을 입었다. 이를 해결하기 위해 프롬프트 마지막에 '데이터가 부족하면 추정하지 말고 부족하다고 답하라'는 제약 조건을 추가했다. 초기에는 AI가 답변을 거부하는 빈도가 높아 불편했으나, 결과적으로 불확실한 데이터에 기반한 잘못된 의사결정을 효과적으로 방지할 수 있었다. 결국 AI가 '모른다'고 응답하게 만든 것이 오히려 부정확한 추론으로 인한 실수를 줄여 마진율 상승으로 이어졌다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.