Anthropic(앤트로픽), AI 모델 응답 검증 도구 'FlashProve' 오픈소스 공개

요약

Anthropic은 모델 가중치를 공개하지 않고도 AI 응답의 진위 여부를 검증할 수 있는 오픈소스 연구 프로토타입 FlashProve를 공개했다. 이 시스템은 모델 제공자가 가중치를 암호학적으로 확정해 두면, 사용자가 모델을 직접 실행하지 않고도 모델 교체나 응답 변조 여부를 확인할 수 있도록 돕는다. 실제 성능 테스트 결과 4비트 Llama 4 Maverick 400B 모델에서 H100 GPU 한 장 기준 초당 약 110토큰의 증명 처리량을 기록했으나, GPU 사용 시간은 일반적인 vLLM 추론 대비 약 70~95배 더 소요된다. 현재 FlashProve는 최대 1,024토큰 문맥 내에서 정수 모델이 가장 높은 확률의 토큰을 선택하는 경우에 한해 검증이 가능하다. 이번 기술은 AI 모델의 투명성과 신뢰성을 높이기 위한 증명 시스템의 초기 단계 연구로 평가받는다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.