Anthropic(앤트로픽), METR 등 외부 기관과 파트너십 체결… 모델 평가 투명성 강화

요약

Anthropic은 모델 안전성과 투명성 강화를 위해 비영리 단체 METR에 직원 수준의 접근 권한을 부여하고 독립적인 외부 평가를 시작한다고 발표했다. METR은 향후 평가 결과를 공개할 예정이며, Anthropic은 이미 지난 1년간 Risk Reports 검토를 위해 METR과 협력해 왔다. 또한 SecureBio, Accenture와도 협력 중이며 Hugging Face 등 여러 기관과 평가 방안을 논의하고 있다. Anthropic은 상업적 민감 정보나 보안 우려로 모든 정보를 공개할 수 없는 대신, 외부 평가자에게 심층적인 정보를 제공하여 모델 위험성을 객관적으로 증명하겠다는 전략이다. 이번 조치는 백악관의 슈퍼 인텔리전스 협약(White House Accord on Super Intelligence) 이행의 일환으로, frontier AI 모델 개발의 책임성과 안전성을 높이기 위해 추진되었다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.