참고X
OpenAI(오픈AI), METR와 협력하여 내부 모니터링 시스템 외부 평가 진행
AI 안전성 강화를 위해 외부 기관에 인프라 접근을 허용하고 평가 체계를 도입하는 추세.
요약
OpenAI는 올해 여름, METR 및 Redwood Research와 협력하여 내부 모니터링 시스템에 대한 임베디드 평가를 3주간 진행했다. 이번 협업은 외부 연구 기관에 자사 인프라에 대한 심층적인 접근 권한을 제공하여 시스템의 안전성을 검증하는 데 중점을 두었다. 평가 결과를 통해 OpenAI는 내부 모니터링 시스템을 확장하는 과정에서 필요한 안전장치를 강화했다. 또한, 이번 파일럿 프로젝트는 향후 METR을 비롯한 외부 평가 기관과의 연구 협력을 구체화하는 밑거름이 될 전망이다. OpenAI는 앞으로도 외부 전문가와의 협업을 통해 자사 AI 시스템의 안전성을 지속적으로 검증할 계획이다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 @OpenAI: This summer, we invited METR and Redwood Research to pilot an embedded evaluation of our internal monitoring system, providing dee
원문 보기 ↗