참고팁Reddit
앤트로픽 가이드: 'Double-check your work'는 이제 안티 패턴
최신 LLM에서 불필요한 지시사항이 비용을 높이고 성능을 저하시키는 현상 공유. 프롬프트 개선에 즉시 참고 가능.
요약
Anthropic은 최신 모델의 성능 향상과 비용 절감을 위해 'Double-check your work'나 'Be maximally thorough'와 같은 관행적인 지시사항이 오히려 역효과를 낼 수 있다고 경고했습니다. 이전 세대 모델과 달리 최신 모델은 이미 이러한 작업을 내부적으로 수행하므로, 해당 프롬프트를 추가하면 불필요한 검색과 재작업으로 인해 비용이 증가하고 답변 품질이 저하될 수 있습니다. 특히 이러한 지시어는 모델이 작업을 이중으로 수행하게 만들거나, 상충하는 규칙을 생성해 혼란을 야기할 위험이 있습니다. 개발자들은 프롬프트 설정에서 이러한 과거의 유산을 제거하고 모델의 기본 성능에 의존하는 방향으로 최적화할 필요가 있습니다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 Anthropic says "double-check your work" is now an anti-pattern. I counted 125 of those lines in my own config and cannot tell which ones matter.
원문 보기 ↗