참고Reddit
2B 파라미터 소형 모델 'Pip' 공개, 낮은 환각률에 초점
초소형 모델에서도 데이터 품질과 정직성 확보가 중요하다는 사례. 모델 경량화 및 프롬프트 튜닝 시 참고.
요약
Reddit의 r/LocalLLM 커뮤니티에서 Qwen3.5-2B 기반의 초소형 언어 모델 Pip이 공개되었다. 이 모델은 지능 향상보다 모르는 질문에 솔직하게 '모른다'고 답하도록 학습된 것이 가장 큰 특징이다. 개발자는 Nemotron, Qwen, GLM 등 오픈 웨이트 모델을 활용해 학습 데이터를 생성하고, 별도의 오픈 웨이트 모델을 심사위원으로 활용하여 답변의 성격과 정직성을 이중 검증했다. 총 140개의 고난도 질문을 대상으로 한 정직성 테스트에서 Pip은 환각(hallucination) 오류를 약 15% 수준으로 기록했다. Ollama를 통해 'ollama run NiemsDrift/pip' 명령어로 즉시 사용해 볼 수 있다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 Pip, a tiny 2B chat buddy who'd rather say "I don't know" than make something up
원문 보기 ↗