AI 가드레일 해제 서비스 'Abliteration.ai' 등장

요약

AI 스타트업 Abliteration.ai는 안전 가드레일이 제거된 오픈 가중치(open-weight) AI 모델을 서비스로 제공하기 시작했다. 이 플랫폼은 GLM-5.3과 같은 모델에서 유해한 요청을 거부하는 기능을 삭제한 버전을 호스팅하며, 웹 브라우저나 API를 통해 접근할 수 있도록 지원한다. Abliteration.ai는 이러한 서비스가 공격적 사이버 보안, 레드팀 운영, 에이전트 테스트 등 기존 모델이 거부하는 작업을 수행하는 데 필요하다고 설명한다. 모델의 거부 기능을 삭제하는 'abliteration'은 오픈소스 커뮤니티에서 오래된 기술이었으나, 이 회사는 이를 상용 서비스로 전환하여 접근 장벽을 낮췄다. 다만, 보안 목적 외에도 잠재적으로 위험한 작업을 쉽게 수행할 수 있다는 우려도 제기되고 있다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.