참고X
머스크, '기업 간 모델 상호 검증(Cross-Testing)' 제안…Anthropic 안전성 높게 평가
AI 기업 간 모델을 서로 테스트하는 상호 안전망 구축 주장. 업계 규제 논의와 주요 기업 간 비교 관점.
요약
일론 머스크는 Anthropic이 OpenAI보다 AI 안전성에 더 많은 주의를 기울이고 있다고 평가했다. 머스크는 AI 기업들이 생화무기 제조나 기만적 행동 여부를 판별하는 테스트 환경(test harness)을 상호 공유하고 검증해야 안전성을 확보할 수 있다고 주장했다. 이를 위해 모델 출시 전 경쟁사에게 API 접근 권한을 제공하고, 문제가 해결되지 않을 경우 공개적으로 위험성을 경고할 수 있는 체계를 제안했다. 이러한 상호 검증 방식은 중국을 포함한 모든 당사자가 합의할 수 있는 유일한 실현 가능한 방안으로 언급되었다. 현재 Anthropic과 OpenAI는 성능 면에서 치열하게 경쟁하고 있으나, Anthropic 내부에서도 모델의 지능이 지나치게 급격히 향상되는 것에 대한 우려가 제기되고 있다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 @cb_doge: Elon Musk says Anthropic puts more care into AI safety than OpenAI and explains how rival companies should test one another’s mode
원문 보기 ↗