참고AI타임스
앤트로픽 "AI 재귀적 자기개선(RSI) 속도 빨라, 안전 대책 강화 필요"
AI 모델의 자율적 성능 향상이 안전 가드레일을 앞지를 위험 경고. 모델 배포 시 안전성 검증 비중을 높여야 함.
요약
앤트로픽이 AI를 활용한 연구개발 속도가 안전 및 보안 대책을 추월할 가능성이 있다고 경고하며, 이에 대한 통제 강화를 검토하고 있다. 최근 미국 증권거래위원회(SEC)에 제출한 증권신고서 수정본(S-1/A)을 통해 재귀적 자기개선(RSI) 기술의 잠재적 위험성을 구체적으로 명시했다. 앤트로픽은 과거에도 AI 개발 속도가 통제 범위를 벗어날 뻔한 사례가 있었음을 인정하며, 기술 고도화에 맞춰 인간의 감독 체계를 강화해야 한다고 강조했다. 이번 조치는 IPO를 앞두고 기업의 리스크 관리 역량을 투자자들에게 명확히 알리기 위한 행보로 해석된다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 앤트로픽 "RSI 가속에 AI 안전 대책 뒤처질 수도"…통제 강화 검토
원문 보기 ↗