참고X
Google Gemini, 2024년부터 숨겨진 통계적 워터마크 삽입 중
모델이 생성한 텍스트에 특정 키를 통한 통계적 흔적을 남기고 있음. AI 생성 콘텐츠 탐지 및 서비스 신뢰성 평가 시 참고할 것.
요약
구글의 Gemini 모델이 2024년부터 특정 토큰 생성을 편향시키는 비밀 키를 사용하고 있다는 주장이 제기되었다. 이 방식은 모델이 생성한 모든 텍스트에 감지 가능한 통계적 서명, 즉 보이지 않는 패턴을 심는 형태로 구현된다. X 이용자 @AndrewCurran_은 이를 통해 Gemini가 생성한 결과물을 식별할 수 있다고 지적했다. 현재 OpenAI의 모델도 유사한 방식을 채택하고 있는지 여부는 확인되지 않았다. 해당 기술은 AI 모델의 생성물에 워터마크를 삽입하거나 특정 의도를 반영하기 위한 조치로 해석될 수 있다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 @AndrewCurran_: Gemini has also been doing this since 2024. Google uses a secret key to bias the model toward certain tokens, creating a detectabl
원문 보기 ↗