참고Reddit
Anthropic(앤트로픽), 모델 출력 무결성 검증 도구 'FlashProve' 공개
영지식 증명을 통해 모델 가중치 노출 없이 API 호출이 특정 모델에 의해 생성되었음을 증명. 고수준 엔터프라이즈 환경의 AI 신뢰성 검증 표준이 될 가능성 있음.
요약
Anthropic이 AI 모델 제공자가 실제 약속한 모델을 사용했는지 검증할 수 있는 오픈소스 시스템 'FlashProve'를 공개했다. 이 기술은 영지식 증명(Zero-knowledge cryptography)을 활용해 모델의 가중치를 공개하지 않으면서도 특정 모델이 응답을 생성했음을 입증한다. Anthropic은 4,000억 개의 파라미터를 가진 모델에서 초당 약 110 토큰의 속도로 증명을 생성하는 성능을 시연했다. 다만 현재 프로토타입은 일반 추론 대비 70~95배의 GPU 자원이 소모되며, 1,024 토큰의 컨텍스트 제한과 일부 출력 유형을 지원하지 않는 한계가 있다. 향후 고도의 신뢰가 필요한 AI 서비스 분야에서 이러한 암호학적 검증 방식이 표준으로 자리 잡을지 주목된다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 Anthropic’s FlashProve could prove an AI provider used the model you paid for without exposing its weights
원문 보기 ↗