LLM 에이전트의 텍스트 교체 작업 시 발생하는 타겟팅 오류와 해결법

요약

LLM 에이전트가 문서 내 동일한 문장이 여러 번 등장할 경우, 첫 번째 매칭되는 문장을 잘못 수정하는 문제가 발견되었습니다. 'The launch date is provisional'과 같은 중복 문장 발생 시 에이전트가 의도하지 않은 위치를 수정하는 오류가 발생하며, 이는 타겟팅 코드의 정확성 문제로 이어집니다. 해결책으로 시작과 끝 앵커를 활용해 대상 범위를 명확히 식별하거나, 모호한 요청이 있을 경우 에이전트가 임의로 수정하지 않고 사용자에게 명확한 타겟을 재질문하는 방식이 제안되었습니다. 단순히 반복되는 앵커를 금지하는 것은 특정 섹션 삭제 등 일부 작업에서 또 다른 문제를 유발할 수 있습니다. 따라서 시스템은 요청된 작업의 맥락을 고려하여 앵커의 유효성을 검증하는 로직을 갖추어야 합니다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.