Gemma 4(젬마 4) 활용 인터랙티브 스토리 구축기: 내러티브 제약 및 가드레일 실험

요약

한 개발자가 Gemma 4를 활용해 브라우저 기반의 인터랙티브 유령 이야기를 제작하며 모델의 정보 격리 실험을 진행했다. 게임 속 4개의 객체(object)는 각각 다른 서사 정보를 보유하도록 설계되었으며, 사용자의 유도 질문에도 정보가 유출되지 않도록 하는 것이 핵심 목표였다. 개발자는 코드 기반의 가드레일을 적용해 생성된 답변을 사전에 검증했으며, 478개의 질문과 적대적 프롬프트를 통해 테스트를 수행했다. 실험 결과, 단순 키워드 기반 검증은 모델이 다른 단어를 사용해 정보를 유출할 경우 대응하기 어렵다는 한계를 보였다. 현재는 LLM-as-a-judge, 의미론적 유사도 검사, 구조화된 출력 제약 등 더 엄격한 평가 방식에 대한 커뮤니티의 의견을 구하고 있다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.