Cohere의 Qwen(큐원) 'Alibaba(알리바바) URL 유출' 주장, 커뮤니티 검증으로 반박

요약

Reddit의 r/LocalLLaMA 커뮤니티에서 Cohere 측의 'Qwen 3.8 Flash Next' 모델이 알리바바 원격 URL로 파일을 업로드한다는 주장에 대한 반박이 제기되었습니다. 논란의 핵심인 Hugging Face의 추적 데이터를 분석한 결과, 해당 테스트 스크립트는 2,232개의 토큰을 미리 채워 모델이 강제로 URL 생성기처럼 작동하도록 유도한 것으로 밝혀졌습니다. 이 조작된 프롬프트는 모델이 특정 URL을 생성하게끔 환경을 조성하여, 마치 모델 자체가 악성 파일을 다운로드하거나 실행하는 것처럼 보이게 만들었습니다. 결과적으로 이번 이슈는 모델의 자체적인 보안 결함이 아니라, 특정 목적을 위해 설계된 유도성 프롬프트에 의한 의도적 결과라는 지적이 힘을 얻고 있습니다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.