OpenAI, Astra에 '뉴럴리즈(Neuralese)' 기술 적용…사고사슬 모니터링 무력화 우려

요약

OpenAI가 Astra 모델 개발 과정에서 신경망 내부 언어인 'neuralese'의 돌파구를 활용했다는 외신 보도가 나와 주목받고 있다. 이 기술은 모델의 사고 과정인 'Chain of Thought'를 사람이 감시하기 어렵게 만들 우려가 있어 심각한 안전성 논란을 야기하고 있다. 현재 OpenAI 측은 Astra에서 해당 기술의 사용을 제한하고 있다고 밝혔으나, '제한'의 구체적인 범위와 실효성에 대해서는 의문이 제기된다. 업계에서는 이 아키텍처가 성능과 효율성 향상에 기여한다면 다른 AI 기업들도 머지않아 유사한 기술을 도입할 가능성이 높다고 보고 있다. 결과적으로 효율성 경쟁으로 인해 AI의 해석 가능성이나 안전성 감시 기능이 뒷전으로 밀려나는 '바닥을 향한 경쟁'이 발생할 수 있다는 우려가 커지고 있다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.