중요AI타임스
Anthropic(앤트로픽), 외부 평가기관 METR에 '직원급' 내부 시스템 접근권 허용
외부 독립 검증을 안전성 표준으로 끌어올리는 선례. 국내 모델 안전성 거버넌스 설계 시 참고할 만함.
요약
앤트로픽이 AI 모델의 안전성과 위험 관리 체계 검증을 위해 비영리 평가기관 METR에 사내 직원과 유사한 수준의 시스템 접근 권한을 부여했다. 이번 조치로 METR 소속 연구원 6명은 앤트로픽 내부 시스템과 안전 평가 도구를 직접 활용해 위험 수준 및 안전 관행을 독립적으로 조사할 수 있게 되었다. 연구진은 앤트로픽에서 제공한 하드웨어와 계정을 통해 실제 업무 환경에서 평가를 진행하며, 도출된 결과는 외부 연구진이 독자적으로 발표할 권한을 갖는다. 이는 AI 업계에서 자사 모델에 대한 외부 독립 검증을 전격 수용한 사례로, 프런티어 AI 모델의 안전성 확보를 위한 투명성 제고 노력의 일환으로 풀이된다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 앤트로픽, 외부 평가기관 METR에 '직원급' 시스템 접근권 허용
원문 보기 ↗