참고Reddit
최신 오픈웨이트 모델들, 보안 및 리버스 엔지니어링 기능 삭제 추세
중국계 최신 모델들이 보안 능력을 제한하는 경향이 있어 로컬 보안 분석에 차질 우려.
요약
최근 공개된 중국의 오픈 소스 모델인 Kimi K3.1과 텐센트의 Hy4 모델에서 사이버 보안, 역공학, 취약점 패치 기능이 의도적으로 제거되고 있다는 우려가 제기되고 있습니다. 이러한 기능 제한은 사용자가 자체 하드웨어에서 코드 취약점을 감사하거나 바이너리를 역공학하는 능력을 저해하며, 결과적으로 보안 위협 대응을 어렵게 만듭니다. 이번 현상은 최근 중국의 오픈 가중치 모델들에서 나타나는 부정적인 패턴으로, 사용자가 외부의 폐쇄형 API에 의존하게 만드는 결과를 초래할 수 있습니다. 과거 허깅페이스(Hugging Face) 관련 보안 사고 사례에서 볼 수 있듯이, 로컬 LLM은 방어자에게 중요한 도구였습니다. 따라서 오픈 소스 모델의 보안 기능 제거는 결국 방어자의 역량을 약화시키는 조치라는 비판이 커지고 있습니다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 Latest Open-Source Labs are gutting away cybersecurity and reverse-engineering capabilities
원문 보기 ↗