참고팁Reddit
RoBERTa 기반 AI 텍스트 탐지기, 97MB로 경량화하여 브라우저 탑재
ONNX Runtime Web을 활용해 서버 호출 없이 로컬 브라우저 환경에서 동작하는 경량 AI 탐지 모델 구현 사례.
요약
개발자가 기존의 AI 텍스트 및 이미지 탐지기를 경량화하여 웹 브라우저 클라이언트 측에서 즉시 실행 가능하도록 최적화했다. 이번 작업은 fakespot-ai/roberta-base-ai-text-detection-v1과 commfor-model-384 모델을 기반으로 진행되었으며, ONNX Runtime Web을 통해 서버 업로드 없이 로컬 환경에서 탐지를 수행한다. 특히 AI 텍스트 탐지 모델은 기존 약 500MB(fp32)에서 약 97MB로 압축되었고, 이미지 탐지기는 26MB 크기로 줄어들었다. 모델 압축을 위해 HC3, GPT-wiki-intro, WildChat 등 다양한 데이터를 활용한 경량 파인튜닝과 원본 및 튜닝 모델 간의 가중치 공간 보간법인 WiSE-FT 기술이 적용되었다. 상세 코드와 데모는 깃허브 저장소(ritabratamaiti/tinydetect)에서 확인할 수 있다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 Compressed a RoBERTa AI-text detector from ~500 MB to ~97 MB so it runs client-side in the browser, plus a 26 MB image detector [P]
원문 보기 ↗