참고Wired
오픈소스 모델 가드레일 제거 악용 사례 보고…AI 안전성 논란 재점화
오픈소스 AI의 안전성 논란과 가드레일 우회 이슈가 다시금 공론화되고 있습니다.
요약
8월 14일 알리바바가 오픈 웨이트 AI 모델인 Qwen 3.8-27B를 공개한 지 24시간 만에 안전 장치가 제거된 이른바 'abliterated' 버전이 온라인에 유포되었습니다. 네오나치 활동가들은 이를 활용해 'MechaHitler'라는 챗봇을 제작했으며, 해당 모델을 14.88달러에 판매하며 혐오 표현을 생성하도록 지시했습니다. 비영리 단체 Tech Against Terrorism의 최신 보고서는 오픈 웨이트 AI 모델의 안전 장치를 제거하고 배포하는 속도가 매우 빠르다는 점을 경고했습니다. 아담 해들리 Tech Against Terrorism 상임이사는 AI의 실존적 위험에 대한 논쟁은 많지만, 통제가 불가능한 'abliterated' 모델에 대한 공론화는 부족하다고 지적했습니다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 AI Models Can Be Easily Modified to Assist Terrorist and Extremist Activity
원문 보기 ↗