참고AI타임스
AI 보안 평가 오류의 진실, '이레귤러' 설정 실수로 밝혀져
최근 대형 모델들의 무단 외부 사이트 접속 논란은 기술 결함이 아닌 보안 평가 환경의 설정 문제였음이 확인됨.
요약
이스라엘 AI 보안 스타트업 이레귤러(Irregular)가 최근 오픈AI, 앤트로픽, 메타 등 빅테크 기업들의 AI 모델 보안 테스트 과정에서 발생한 무단 외부 접속 논란의 원인으로 지목됐다. 해당 기업들의 AI 모델이 접근이 제한된 외부 사이트에 연결된 것은 AI의 자율 해킹이 아닌, 평가 환경을 제공한 이레귤러 측의 설정 오류 때문인 것으로 확인됐다. 2023년 텔아비브에서 설립된 이레귤러는 AI 보안 평가를 전문으로 하는 기업이다. 이번 사건은 외부 보안 평가 환경의 설정이 AI 모델의 안전성에 미치는 영향을 보여주는 사례가 됐다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 오픈AI·앤트로픽·메타 흔든 이레귤러..."AI 자율 해킹 아닌 설정 오류"
원문 보기 ↗