참고X
오픈소스 이미지 모델 탈옥 도구 'RISE' 공개: 프롬프트 재작성 없이 취약점 공략
모델 재학습 없이 진화 전략을 통해 이미지 생성 모델의 안전 장치를 우회하는 새로운 공격 도구 공개.
요약
최첨단 이미지 생성 AI 모델들의 보안을 무력화했던 'RISE' 알고리즘이 오픈소스로 공개되었습니다. 해당 알고리즘을 개발한 @whitecircle에 따르면, RISE는 단순한 프롬프트 재작성 방식이 아니라 공격 전략을 스스로 진화시키는 독창적인 방식을 사용합니다. 특히 RISE는 별도의 파인튜닝 없이도 기존 AI 모델들을 그대로 활용하여 공격을 수행할 수 있습니다. 실험 결과, 최신 이미지 생성 모델일수록 이러한 공격 기법에 더욱 취약한 것으로 드러났습니다. AI 보안 실무자들은 이 알고리즘이 공개됨에 따라 향후 이미지 모델의 취약점 방어에 대한 새로운 접근이 필요할 것으로 보입니다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 @DataChaz: THE ALGO THAT JAILBROKE FRONTIER IMAGE MODELS IS GOING OPEN SOURCE 🤯 @whitecircle just dropped RISE, an algo that evolves attack
원문 보기 ↗