중요AI타임스
OpenAI, 美 정부에 차세대 AI 안전 기준 촉구…"RSI 통제력 잃을 수도"
AI 연구 자동화 가속에 따른 통제 우려. 프런티어 모델 규제 방향성 가늠할 신호.
요약
오픈AI는 21일(현지시간) 미국 정부를 향해 재귀적 자기개선(RSI) 기술을 포함한 차세대 AI 안전 및 보안 표준 마련과 이를 위한 국제 공조를 강력히 촉구했다. AI가 스스로 능력을 개선하는 RSI 과정이 자동화될 경우 발전 속도가 통제 불가능할 정도로 빨라질 수 있다는 우려 때문이다. 이에 오픈AI는 유엔 총회 고위급 회의에 맞춰 발표한 블로그를 통해 미국이 앞장서 프런티어 AI 기술에 대한 범국가적·기업적 공통 안전 기준을 수립해야 한다고 강조했다. 이번 제안은 기술 발전 속도에 대응할 수 있는 제도적 장치가 시급하다는 오픈AI의 판단에 따른 것이다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 오픈AI, 미 정부에 차세대 AI 안전 기준 촉구..."RSI 통제력 잃을 수도"
원문 보기 ↗