앤트로픽, AI 모델 '신원 확인' 오픈소스 기술 'FlashProve' 공개

요약

앤트로픽은 2일(현지시간) AI 모델이 생성한 답변의 신뢰성을 검증하는 오픈소스 기술 '플래시프루브(FlashProve)'를 공개했다. 이 기술은 영지식 증명(Zero-Knowledge Proof)의 일종인 ‘zkSNARK’를 활용하여, 모델의 내부 가중치를 공개하지 않고도 해당 응답이 지정된 모델에 의해 생성되었는지 수학적으로 증명한다. 이를 통해 서비스 기업이 제공하는 모델을 다른 모델로 몰래 교체하거나 응답을 조작하는 행위를 방지할 수 있다. 앤트로픽의 클로드(Claude) 모델 개발팀이 이번 검증 기술 개발을 주도했다. 이용자는 모델의 내부 구조를 알지 못해도 자신이 받은 답변이 특정 모델에서 도출된 결과물인지 투명하게 확인 가능하다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.