중요TechCrunch
OpenAI, 사이버보안 'Critical' 등급 첫 모델 'Astra' 공개 임박
사람 개입 없이 제로데이 발굴·공격 가능. 고급 보안 기능은 접근 제한, 레드팀·보안팀 주목 필요.
요약
OpenAI가 곧 출시할 차세대 AI 모델 'Astra'는 자사의 '중요 사이버 보안 임계값'을 충족한 최초의 거대 언어 모델입니다. Astra는 사람의 개입 없이도 컴퓨터 시스템의 알려지지 않은 보안 결함을 찾아내고 이를 공격할 수 있는 능력을 갖췄습니다. OpenAI는 Astra가 알려진 시스템 취약점을 해킹하는 능력을 평가하는 'ExploitBench'에서 만점을 기록했으며, 자체 테스트에서는 2개의 제로데이 취약점을 발견하고 공격했다고 밝혔습니다. 이에 따라 OpenAI는 Astra의 가장 진보된 사이버 보안 기능에 대해서는 접근을 제한할 계획입니다. 현재 OpenAI는 외부 검증 없이 일부 테스터에게만 모델을 미리 공개할 예정이며, 악용 방지를 위한 가드레일 개선 작업을 진행하고 있습니다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 Open AI’s Astra model is on the way—and very good at breaking into computer systems
원문 보기 ↗