참고TechCrunch
OpenAI(오픈AI), CSAM 탐지용 이미지 분류기 공개 및 ChatGPT(챗GPT) 안전 가이드 강화
OpenAI(오픈AI), 아동 성적 착취물(CSAM) 탐지 모델을 API로 개발자에게 무료 제공. 안전성 정책 강화 및 위반 시 계정 일시 정지 조치.
요약
OpenAI가 아동 성착취물(CSAM) 확산을 방지하기 위해 새로운 이미지 분류기와 ChatGPT 경고 기능을 도입한다고 발표했다. 이번에 공개된 이미지 분류기는 NCMEC(국립실종학대아동센터)와 협력해 개발되었으며, AI가 생성한 이미지를 포함해 CSAM을 탐지하고 등급을 매겨 검토자의 업무 효율을 높인다. 초기 테스트 결과, 기존 대비 48% 적은 이미지로 동일한 수준의 유해 콘텐츠를 식별했으며, 분류기가 지목한 이미지의 유해 적중률은 2배 더 높았다. OpenAI는 이 분류기 API를 선별된 기업에 무료로 제공하며 Tech Coalition 및 ROOST와 협력해 접근성을 확대할 예정이다. 또한 ChatGPT는 아동 성착취 관련 프롬프트 입력 시 경고 화면을 표시하고, 사용자에게 지원 서비스를 안내하며, 계정을 24시간 동안 일시 정지하는 조치를 시행한다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 OpenAI releases a new image classifier and ChatGPT warnings to combat CSAM
원문 보기 ↗