OpenAI, Hugging Face 침해 사태 이후 새 보안 정책 도입

요약

OpenAI가 모델 개발 및 테스트 과정의 보안 강화를 위한 새로운 안전 정책을 발표했다. 이번 조치는 모델 개발 중 모니터링을 강화하고, 학습 후 과정에서 정렬(alignment)과 보안의 중요성을 강조하는 내용을 담고 있다. 이는 지난 7월 26일 공개된 Hugging Face 보안 사고 이후 처음으로 발표된 안전 관리 방안이나, OpenAI 측은 이번 조치가 사고에 대한 직접적 대응은 아니며 Astra 모델의 사이버 보안 역량 및 AI 발전 속도를 고려한 것이라고 설명했다. 또한 OpenAI는 Hugging Face 사고 후 2주간 강화학습(RL)을 중단했으나, 현재는 위험도가 낮은 모델부터 재개한 상태다. 다만 가장 규모가 큰 최첨단 RL 학습은 모델 행동 평가와 안전성 검증을 위해 보류 중이며, 소규모 훈련을 우선 진행하고 있다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.