에이전트 신뢰성 확보를 위한 결정론적 실행 계층 'CROA'

요약

최근 Reddit의 r/LLMDevs에서 에이전트 시스템의 실행 제어를 위한 오픈 아키텍처인 CROA가 공개되었다. 기존의 제어 방식은 개별 작업 단위로 허용 여부를 판단해 전체 실행 경로의 위험을 놓칠 수 있다는 한계가 있다. 예를 들어 고객 레코드 100개 노출 제한 상황에서 40개씩 세 번의 요청을 보내면 개별 동작은 통과하지만 전체는 제한을 초과하게 된다. CROA는 지능(AI 에이전트)과 실행 권한을 분리하여 이러한 문제를 해결한다. 에이전트가 작업을 제안하면 외부 실행 경계(execution boundary)가 전체 상태의 허용 여부를 평가하는 결정론적 실행 계층을 구축한 것이다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.