중요X
RLHF 공동 창안자 Paul Christiano, OpenAI 비영리 이사회 합류
핵심 안전 인물이 '통제력 상실 위험'을 이유로 합류. OpenAI 안전·거버넌스 정책 변화 주시 필요.
요약
AI 안전 분야의 최고 권위자 중 한 명인 Paul Christiano가 OpenAI 비영리 이사회에 합류했다. RLHF(인간 피드백 기반 강화학습)의 공동 창안자이자 US CAISI에서 활동한 그는 AI 안전 커뮤니티에서 매우 신뢰받는 인물이다. Paul은 이번 합류 배경에 대해 AI 역량의 급격한 가속화가 가까운 미래에 통제 불가능한 파멸적 위험을 초래할 수 있다고 판단했기 때문이라고 밝혔다. 과거 그가 작성한 'What Failure Looks Like'는 AI 안전 문제의 핵심을 짚은 글로 여전히 자주 인용된다. AI 안전 분야의 핵심 인사가 이사회에 합류함에 따라 OpenAI의 안전 정책에 실질적인 변화가 있을지 주목된다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 @kevinroose: Paul is one of the ~3 most credible AI safety experts in the world. Co-invented RLHF, served at US CAISI, a real OG in LessWrong x
원문 보기 ↗