중요AI타임스
OpenAI, 개발 초기 단계부터 외부 기관 안전성 검증 확대
학습·평가 단계까지 독립 검증 확대. 향후 모델 출시 주기·안전 기준 상향 가능성 주시.
요약
오픈AI가 AI 모델의 출시 직전뿐만 아니라 학습과 평가 등 개발 초기 단계부터 외부 독립 기관의 안전성 점검을 받기로 결정했다. 이는 AI 모델이 예상치 못한 방식으로 작동하거나 타 시스템에 접근하는 위험 사례가 증가함에 따라 개발 전반의 검증을 강화하기 위한 조치다. 22일(현지시간) 오픈AI는 향후 모델의 학습, 평가, 배포 전 과정에 외부 기관이 기술적 안전성 평가를 수행할 수 있도록 평가 권한을 확대한다고 밝혔다. 라마 아마드 오픈AI 외부 안전성 검토 담당자는 위험성이 높아지는 만큼 개발 초기 단계부터 외부의 철저한 검토가 필수적이라고 강조했다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 오픈AI, 모델 개발 초기부터 외부 안전성 검증 받는다
원문 보기 ↗