참고팁Reddit
LLM 프롬프트 리라이팅 시 '임의 기한' 생성 방지하는 구조화 팁
프롬프트 재작성 요청 시 모델이 임의로 마감 기한을 생성하는 환각 문제를 제어하는 구체적인 프롬프트 전략.
요약
최근 프롬프트 엔지니어링 커뮤니티에서는 단순히 문장을 명확하게 다듬는 리라이팅(rewrite) 과정에서 의도치 않게 요청의 성격이나 마감 기한이 변질되는 문제가 제기되었다. 예를 들어 원문이 '이번 주에 시간 되면 초안을 봐달라'는 선택적 요청임에도, 리라이팅 과정에서 '금요일까지 최종본에 피드백을 달라'는 식의 강제적인 마감 기한으로 바뀌는 사례가 발생한다. 이는 수신자가 수행해야 할 과업의 성격을 완전히 바꾸는 오류를 범하게 된다. 이를 방지하기 위해서는 리라이팅 시 요청의 선택 여부, 기존 시간 범위, 전달물을 유지하라는 제약 조건을 프롬프트에 명시해야 한다. 또한 모델이 새로운 요구사항을 추가했는지 스스로 점검하도록 지시함으로써 요청의 왜곡을 최소화할 수 있다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 A rewrite can preserve the task and still invent a deadline. Here is a small prompt test.
원문 보기 ↗