참고Hacker News
연구: 장문의 시스템 프롬프트(Handbook.md)가 에이전트 제어에 미치는 한계 확인
긴 정책 문서로 에이전트 행동을 통제하려는 시도가 실제로는 불안정하다는 연구 결과. 에이전트 가드레일 설계 시 참고.
요약
arXiv가 제공하는 arXivLabs는 협력자들이 arXiv 웹사이트에서 새로운 기능을 직접 개발하고 공유할 수 있도록 지원하는 프레임워크입니다. arXiv는 개방성, 커뮤니티, 우수성, 사용자 데이터 개인정보 보호라는 핵심 가치를 최우선으로 하며, 이 원칙을 준수하는 파트너들과만 협력합니다. arXivLabs는 개인과 조직 모두가 이러한 가치를 공유하고 실천할 수 있는 생태계를 지향합니다. 커뮤니티에 기여할 수 있는 프로젝트 아이디어가 있다면 arXivLabs를 통해 제안할 수 있습니다. 이번 서비스는 기술적 협력을 통해 플랫폼 기능을 확장하고 커뮤니티의 가치를 높이는 데 중점을 둡니다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 Handbook.md shows that long policy documents do not reliably govern agents
원문 보기 ↗