중요AI타임스
OpenAI(오픈AI), 외부 평가기관에 비공개 모델·학습 데이터 개방...독립 안전성 검증
출시 전 평가를 넘어 개발·학습 과정까지 외부 검증. AI 투명성 요구가 업계 표준으로 굳어질 신호.
요약
오픈AI가 AI 안전성 강화를 위해 외부 독립 평가기관에 비공개 모델과 학습 데이터, 내부 감시 시스템에 대한 접근권을 제공하기로 했다. 기존의 모델 출시 전 평가 방식에서 나아가 외부 전문가가 개발과 학습 과정까지 직접 검증하는 체계로 전환한다. 오픈AI는 16일(현지시간) 아폴로 리서치(Apollo Research), METR, 트랜슬루스(Transluce), 굿파이어(Goodfire) 등 4개 기관과 안전성 검증 계약을 체결했다. 이들 기관은 각기 다른 영역에서 시범 평가를 진행하며, 향후 지속적인 외부 검증 체계를 구축할 예정이다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 오픈AI, 외부 전문가에 내부 모델·학습 데이터 개방...AI 안전성 독립 검증
원문 보기 ↗