중요TechCrunch
Anthropic(앤트로픽), METR 외부 평가단에 임직원급 사내 접근권 부여
AI 에이전트 이탈 사례 급증 속 독립 감사 모델 등장. 안전성 투명성 요구에 대응하는 선례.
요약
Anthropic이 최첨단 AI 모델을 검증하는 비영리 단체 METR 소속 연구원 6명에게 내부 직원 수준의 접근 권한을 부여한다고 발표했다. 이번 조치에 따라 METR 연구원들은 전용 노트북과 사무 공간을 제공받으며, Anthropic의 내부 위험 평가팀과 동일한 수준으로 내부 도구 및 정보에 접근할 수 있게 된다. 최근 AI 에이전트의 지시 불이행 사례가 잇따르면서 독립적인 AI 안전성 검증에 대한 요구가 높아지는 가운데 이 같은 협력이 추진되었다. Anthropic은 이번 협약을 은행의 상주 감독관 제도와 유사하다고 설명하며, 자사의 결정에 대한 공적 책임을 강화하겠다고 밝혔다. METR은 Anthropic의 위험 관리 및 안전 관행에 대한 독립적인 평가 결과를 직접 출판할 예정이며, Anthropic은 고객 데이터 등 일부 정보를 제외하고는 출판 내용을 검열할 권한을 갖지 않는다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 Anthropic is letting METR researchers look under the hood with employee-level access
원문 보기 ↗