참고X
OpenAI, GPT-6 Astra 레드팀 구성에 20만 GPU-시간 투입
모델 안전성 강화에 투입된 컴퓨팅 자원 규모를 통해 OpenAI의 모델 정렬 노력과 비용 구조를 유추 가능.
요약
OpenAI가 멀티모달 AI 모델인 Astra의 안전성을 강화하기 위한 레드팀 작업에 막대한 컴퓨팅 자원을 투입했다. 특히 자동화된 탈옥(Jailbreak) 테스트 과정에서만 약 20만 개의 A100급 GPU 시간이 소모된 것으로 밝혀졌다. 이번 사례는 고도화된 AI 모델의 출시 전 안전 검증에 투입되는 컴퓨팅 비용이 기하급수적으로 증가하고 있음을 시사한다. OpenAI는 안전한 모델 배포를 위해 대규모 인프라를 활용한 정밀한 레드팀 프로세스를 운영하고 있다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 @haider1: OpenAI spent enormous compute just red-teaming Astra one measured part of automated jailbreak red-teaming alone consumed approxima
원문 보기 ↗