참고X
OpenAI·Anthropic 연구원 퇴사, "초지능 향한 무책임한 경주 중"
전직 주요 랩 연구원의 퇴사 및 안전성 경고. 모델 개발의 속도전과 안전 관리에 대한 내부의 비판적 시각.
요약
OpenAI와 Anthropic에서 3년간 사전 학습(pretraining) 연구를 담당해온 연구자가 최근 Anthropic에서 퇴사했다. 해당 연구자는 두 회사 모두가 책임감 있게 행동하지 않고 있다고 비판했다. 그는 두 기업이 인류의 안전을 담보로 삼아 자기 개선적 초지능(self-improving superintelligence) 개발 경쟁에만 몰두하고 있다고 지적했다. 이번 퇴사는 AI 안전과 개발 속도 사이의 갈등을 보여주는 또 다른 사례로 해석된다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 @LearnWithSubhan: I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither com
원문 보기 ↗