참고X
안전장치 제거된 'Abliterated' 모델 서비스 등장, 보안 검증용으로 활용
Refusal 메커니즘을 제거한 모델이 출시됨. 보안 취약점 점검을 위한 레드팀 작업에 활용 가능.
요약
DeepSeek 모델에서 거부 응답을 유발하는 가중치를 제거한 'DeepSeek Abliterated' 모델이 공개되었다. 해당 모델은 일반 모델과 동일한 지능을 유지하면서도 어떠한 지시도 거부하지 않는 특성을 보인다. 개발자는 거부 응답을 유발하는 가중치 삭제가 모델의 지능 성능과 무관하며, 이를 통해 서비스의 취약점을 점검하는 데 활용할 수 있다고 설명했다. 현재 MorphLLM에서 서버리스 토큰 기반 과금 방식으로 제공되며 세계 최초의 사례로 언급되었다. 다만, 보안상의 이유로 이용 시 KYC 인증과 함께 사용 목적을 명확히 밝혀야 한다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 @skeptrune: 🚨 🚨 DEEPSEEK ABLITERATED REFUSES NOTHING & IS JUST AS INTELLIGENT AS THE REGULAR MODEL!! that should scare the hell out of you.
원문 보기 ↗