← promppy_ 실시간 AI 뉴스
중요X

OpenAI(오픈AI), 외부 전문기관에 내부 모델 심층 접근 허용…정렬·안전성 독립 평가 도입

폐쇄 모델도 외부 독립 검증 흐름 확산. 기업용 AI 도입 시 안전성 검증 기준으로 참고 가치.

요약

OpenAI가 내부 모델 및 시스템에 대한 안전성 검증을 강화하기 위해 외부 전문가 그룹과 협력하는 '임베디드 평가(embedded assessments)' 프로젝트를 시작했다. 이번 협력에는 Apollo Research, METR Evals, Transluce AI, Goodfire AI 등 4개 전문 기관이 참여한다. 외부 전문가들은 OpenAI의 내부 시스템에 깊이 접근하여 모델의 정렬(alignment) 상태를 조사하고 안전장치를 테스트하는 역할을 수행한다. 이는 기존에 진행해오던 자체 안전 연구를 넘어 독립적인 제3자의 검증을 도입하여 시스템 내 위험을 식별하고 관리하려는 시도다. OpenAI는 이러한 과정을 통해 자사 AI 기술의 잠재적 위험을 보다 객관적으로 평가하고 안전성을 고도화할 계획이다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.

원문 제목 @OpenAI: We’re working with @ApolloResearch, @METR_Evals, @TransluceAI, and @GoodfireAI on embedded assessments: giving outside experts dee

원문 보기 ↗

광고

promppy는 한국 AI 실무자를 위한 실시간 AI 뉴스 터미널입니다.

15분마다 속보·중요·팁 자동 수집 · 한국어 요약 제공

실시간 피드 보기 →RSS 구독

관련 뉴스