참고AI타임스
오픈AI, 자체 보안 레드팀 모델 'GPT-레드' 개발
인간 개입 없이 취약점을 진단하는 자동화 루프로 모델 보안성 강화 시도.
요약
오픈AI가 AI 모델의 보안 취약점을 자동으로 진단하고 공격을 설계해 방어력을 높이는 자동화 레드팀 모델 'GPT-레드(GPT-Red)'를 개발했다. 오픈AI는 악용 가능성을 차단하기 위해 해당 모델을 외부 공개 없이 사내 격리 환경에서만 운영할 방침이다. 이를 통해 인간의 개입을 최소화한 '자체 개선(Self-improvement) 루프'를 구축했다. 실제로 이 기술을 적용한 차세대 모델 'GPT-5.6 솔(Sol)'의 보안 견고성은 이전 세대 대비 6배 향상된 것으로 확인됐다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 오픈AI, 자동 해킹 모델 'GPT-레드' 개발..."악용 우려로 외부 공개 안 해"
원문 보기 ↗