참고팁Reddit
Gemma 4(젬마 4) API 사용 시 호스팅 방식에 따른 필터링 차이점 분석
구글 AI 스튜디오의 경직된 필터링을 우회하려면 서드파티 호스팅 활용을 고려할 것.
요약
약 5만 개의 웹 카탈로그 항목을 분류하는 과정에서 Google AI Studio의 무료 등급 Gemma 2 27B 모델이 성인 콘텐츠 포함을 이유로 입력 데이터를 차단하는 문제가 발생했습니다. 동일한 프롬프트임에도 불구하고 초기에는 작동하던 모델이 모더레이션 섹션 추가 후 모든 항목에 대해 PROHIBITED_CONTENT 오류를 반환했습니다. 반면, 동일한 모델을 DeepInfra(OpenRouter 경유)에서 호스팅했을 때는 아무런 차단 없이 성공적으로 데이터 라벨링이 완료되었습니다. OpenRouter 내 무료 Gemma 모델은 Google AI Studio 서버를 사용하여 동일한 필터링이 적용되지만, DeepInfra와 같은 외부 호스트를 사용하면 이러한 제약을 피할 수 있습니다. 실험 결과, Claude Opus를 참조 데이터로 사용했을 때 Nemotron 3.5 Super VL 모델의 필드 일치율은 73~77% 수준을 기록했습니다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 Labelling ~50k entries (some adult) for $0: Google's API blocked the model, another host didn't
원문 보기 ↗