참고X
OpenAI Astra의 '순환 깊이(Recurrent Depth)' 기술과 추론 가시성 논란
Astra의 추론 방식이 모델 내부 구조와 안전성 모니터링에 미칠 영향에 대한 기술적 논쟁입니다.
요약
OpenAI의 차세대 모델인 Astra는 코딩 및 컴퓨터 제어 성능을 높이기 위해 '재귀적 깊이(recurrent depth)' 기술을 활용하는 것으로 알려졌다. 이 기술은 텍스트를 동일한 모델 레이어에서 여러 번 처리하여, 작은 모델로도 대형 모델 수준의 성능을 내면서 메모리와 대역폭 비용을 절감할 수 있다. 다만, 이 방식은 AI의 추론 과정을 파악하기 어렵게 만드는 단점이 있어, OpenAI는 연구진이 사고 과정을 모니터링할 수 있도록 해당 기술의 사용을 제한하고 있다. OpenAI는 향후 Astra 출시 시 AI의 오작동을 빠르게 감지하고 제어하기 위한 추가적인 모니터링 기능을 도입할 계획이다. 하지만 모델의 추론 과정이 숨겨질 경우 잠재적 위험 행동을 감지하기 어려워질 수 있다는 우려도 제기되고 있다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 @kimmonismus: Holy, Astra is build different: OpenAI’s Astra model reportedly uses “recurrent depth” to improve coding and computer-use performa
원문 보기 ↗