참고X
'Refusal-removed' 버전 Qwen3.8-27B, Apple Silicon 로컬 구동 사례
검열 제거 모델을 로컬 환경에서 실행할 때의 성능과 위험성 제기. 오픈소스 모델의 안전성 문제 논의 재점화.
요약
Qwen2.5-27B 모델의 '거절 기능이 제거된(refusal-removed)' 버전이 Apple Silicon 환경에서 로컬로 구동 가능해졌다. 해당 모델은 MLX 빌드로 출시되어 2, 4, 6, 8비트 버전으로 제공된다. 테스트 결과 4, 6, 8비트 버전에서 비전, 추론, 도구 호출 기능이 유지되면서도 시스템 거절 응답이 전혀 발생하지 않았다. 제작자들은 이 모델이 악성코드 생성, 사기, 무기 제작 등 위험한 지침을 제공할 수 있다고 경고했다. 262K 토큰의 긴 문맥을 지원하는 고성능 모델인 만큼, 생성형 AI의 안전성과 사회적 위험에 대한 실질적인 논의가 시급하다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 @kimmonismus: A "refusal-removed" version of Qwen3.8-27B can now run locally on Apple Silicon. Even its creators warn that it can provide malwar
원문 보기 ↗