Hugging Face, Baseten과 협력하여 '애블리터레이션(Abliteration)' 대응 안전 인프라 구축

요약

Baseten은 Base Labs 연구 부문과 함께 오픈 웨이트 모델의 안전 평가 및 모니터링 인프라 구축을 위해 Hugging Face 및 Goodfire AI와 파트너십을 체결했다. 이번 협력은 Hugging Face에 현재 6,000개 이상의 'abliterated'(안전 장치가 제거된) 모델이 등록되어 있는 등 오픈 소스 AI 모델의 안전성 문제가 대두되는 가운데 발표되었다. abliteration은 모델의 안전 장치를 제거해 위험한 답변을 가능하게 만드는 기법으로, 최근 업계의 주요 논쟁거리로 떠오르고 있다. 일각에서는 이번 파트너십이 Hugging Face의 모델 호스팅 정책에 어떠한 영향을 미칠지, 플랫폼 차원의 규제가 본격화되는 것인지에 대해 우려 섞인 시선을 보내고 있다. 이번 인프라 표준 구축이 향후 오픈 소스 생태계의 안전성 확보와 모델 관리 방식에 어떠한 변화를 가져올지 주목된다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.