중요AI타임스
OpenAI·Anthropic, 모델 상호 스트레스 테스트 협정 논의…미공개 모델은 제외
경쟁사 간 안전성 교차 검증이 업계 표준화될 가능성. 자체 레드팀 프로세스 점검 필요.
요약
오픈AI와 앤트로픽이 서로의 AI 모델에 대한 안전성과 보안 취약점을 평가하는 '상호 스트레스 테스트' 협정을 논의 중이다. 양사는 경쟁사의 상용화된 AI 모델 API에 접근해 자사 평가에서 놓친 취약점이나 위험 요소를 발굴할 계획이다. 디 인포메이션에 따르면 양사는 올해 초부터 법적 구속력을 갖춘 방안을 검토해 왔으며, 테스트 과정에서 상대방의 데이터를 저장하지 않는 조건을 전제로 하고 있다. 다만 이번 협정의 대상은 상용화된 모델에 한정되며 미공개 모델은 제외될 예정이다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 오픈AI·앤트로픽, AI 모델 교차 검증 합의 임박...미공개 모델은 제외
원문 보기 ↗