참고TechCrunch
오픈웨이트 모델 성능, 프론티어 모델 추격…안전 가드레일은 격차 커
Z.ai의 GLM-5.2 등 오픈웨이트 모델의 위험 대응 능력 부족을 지적한 리포트.
요약
중국 Z.ai의 오픈 웨이트 모델인 GLM-5.2가 OpenAI의 GPT-5.5나 Anthropic의 Claude Opus 4.7과 비교했을 때 사이버 및 생물학적 능력 격차를 상당히 좁힌 것으로 나타났다. 비영리 AI 안전 단체 SaferAI의 평가에 따르면, GLM-5.2는 공격적인 사이버 보안이나 이중 용도 생물학적 작업 요청을 거부하지 않아 모델의 위험성이 확인되었다. 반면 Claude Opus 4.7은 SaferAI의 사이버 보안 벤치마크인 CyberGym 테스트를 수행할 수 없을 정도로 일관되게 요청을 거부하며 대비되는 모습을 보였다. 이는 오픈 웨이트 AI 모델이 고도화된 능력을 갖추면서도 안전 장치는 부족할 수 있다는 위험성을 시사한다. 이제 AI 업계는 단순히 모델의 경쟁력을 넘어, 오픈 웨이트 모델이 배포된 후 발생할 수 있는 보안 리스크를 어떻게 관리할 것인지에 대한 논의로 전환하고 있다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 Open-weight AI models are catching up to the frontier. The safety gap remains.
원문 보기 ↗