중요Ars Technica
앤트로픽, 외부 감시기관 METR에 '직원급' 내부 접근 권한 부여
제3자 평가가 AI 안전 검증의 실질 표준으로 부상. 모델 거버넌스 설계 시 외부 감사 체계 참고할 만함.
요약
Anthropic이 자사 모델의 위험성 평가를 위해 비영리 단체인 METR에 '직원 수준'의 내부 시스템 및 하드웨어 접근 권한을 부여했다. 이는 AI 기술이 경제, 사이버 보안 등에 초래할 수 있는 위험에 대비해 외부 평가자의 역할을 강화하겠다는 지난 9월의 약속을 실천한 구체적 조치다. 이번 조치로 METR 소속 팀이 Anthropic 사무실에 상주하며 내부 평가를 수행하게 되었으며, 이는 주요 AI 기업 중 첫 번째 사례이다. Anthropic은 모델 성능이 향상됨에 따라 더 강력한 안전장치와 엄격한 위험 평가가 필요하다고 강조했다. 한편, OpenAI 역시 해당 제안을 긍정적으로 평가했으나 아직 구체적인 외부 평가자 도입 계획은 발표하지 않았다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 Anthropic gives outside AI watchdog “employee-like” access
원문 보기 ↗