참고팁AI타임스
비드래프트, LLM '인과누설' 취약점 진단 도구 'AX-RAY' 공개
모델의 비정상적 추론 원인을 분석하는 안전성 도구입니다. 모델 평가나 LLM 보안 검증 시 활용해 보세요.
요약
AI 전문 기업 비드래프트가 범용 LLM의 안전성을 진단하는 'AX-RAY' 리더보드와 평가 데이터셋을 17일 허깅페이스에 공개했다. 이번 공개의 핵심은 이론적 위험으로만 논의되던 '인과누설(Causal Leakage)'을 실제 범용 LLM에서 탐지했다는 점이다. 비드래프트는 AX-RAY 평가를 통해 엔비디아 모델 1종을 포함한 총 2종의 모델에서 인과누설 신호를 확인했다. 인과누설은 AI가 정상적인 추론 경로가 아닌 의도하지 않은 단서나 숨은 정보에 영향을 받아 판단하는 현상을 의미한다. AI 모델의 신뢰성과 안전성을 검증하려는 실무자들에게 중요한 지표가 될 것으로 보인다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 비드래프트, 범용 LLM서 ‘인과누설’ 탐지…AI 안전성 진단 ‘AX-RAY’ 공개
원문 보기 ↗