속보Wired
OpenAI, 첫 '위험' 등급 사이버 역량 모델 'Astra' 곧 공개 예고
미공개 취약점 자율 발견·공격 가능. 보안 자동화·위협 인텔리전스 개발자는 대응 검토 필요.
요약
OpenAI가 자사의 차세대 AI 모델 'Astra'가 '중대한(critical)' 사이버 보안 능력을 갖췄다고 화요일 발표했다. 이 모델은 실제 소프트웨어의 알려지지 않은 취약점을 독립적으로 찾아내고 악용할 수 있는 수준에 도달하여, OpenAI의 내부 준비성 프레임워크 기준을 충족했다. OpenAI는 Astra를 곧 공개할 예정이나, 고도화된 사이버 기능은 초기 액세스 프로그램인 'Daybreak Blue'의 일부 파트너에게만 우선 제공할 방침이다. 앞서 OpenAI는 모델의 위험성을 인지하고 수주간 Astra 및 차기 모델의 학습을 중단했으나, 추가적인 안전 조치를 마련한 후 개발을 재개했다. 이번 결정으로 실리콘밸리 내 AI의 사이버 보안 위험 관리와 기술 개발 간의 균형에 대한 논의가 가속화될 전망이다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 OpenAI Is About to Release Its First AI Model With ‘Critical’ Cyber Abilities
원문 보기 ↗