참고Reddit
사람과 AI가 다르게 읽는 'Decoy Font' 등장
OCR 및 이미지 인식 모델을 속이는 폰트 기술로, AI 보안 및 이미지 처리 성능 평가 측면에서 눈여겨볼 만함.
요약
Mixfont이 인간과 AI에게 서로 다른 메시지를 보여주는 새로운 서체 'Decoy Font'를 공개했다. 이 폰트는 일반적인 글자 위에 얇은 외곽선의 미끼 문자를 덧씌우는 방식을 사용한다. 이로 인해 ChatGPT, Claude, Gemini와 같은 AI 모델들은 잘못된 텍스트를 인식하게 된다. 반면, 인간은 멀리서 보거나 눈을 가늘게 뜨는 방식으로 원래 의도된 메시지를 읽을 수 있다. 이번 기술은 AI 모델의 시각 인식 기능을 우회하는 새로운 방식의 'jailbreak' 사례로 주목받고 있다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 Claude cannot read this font!
원문 보기 ↗