소형 모델 에이전트 빌드 전략: '지식'보다 '도구 호출 능력'이 핵심

요약

최근 5B-active 파라미터 모델이 특정 지식을 알지 못하는 문제를 결함이 아닌 기능적 특성으로 재평가하는 인식이 확산되고 있다. 기존에는 모델이 모호한 질문에 대해 틀린 답을 지어내는 환각 현상 때문에 저파라미터 모델을 외면했으나, 이는 모델의 활용 방식에 대한 오해였음이 드러났다. 실제 업무 환경에서 LLM의 역할은 내부 지식을 암기하는 것이 아니라 외부 문서, API, 코드베이스 등에서 정보를 직접 검색해 활용하는 도구 호출(Tool calling) 능력에 있다. 가중치에 저장된 지식은 업데이트와 감사가 불가능하지만, 외부 참조 방식은 실시간 정보 반영과 검증이 용이하다는 장점이 있다. 따라서 실무자는 모델의 단순 지식 보유량보다 얼마나 정확하게 필요한 시점에 외부 도구를 호출하는지에 집중해야 한다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.