마이크로소프트식 에이전트 아키텍처: 소형 모델 성능 5배 높이는 프레임워크

요약

마이크로소프트는 모델 자체를 학습시키지 않고도 정교한 에이전트 시스템(Harness) 설계를 통해 Llama 3-8B 모델의 성능을 5배 향상시켰다. 기존 모델은 긴 문서 테스트에서 100점 만점에 15점에 그쳤으나, 에이전트 시스템 도입 후 79점으로 향상되어 별도의 추가 학습 없이도 높은 성과를 거뒀다. 실무자는 작업을 20~50개의 예시로 세분화하고, 명확한 규칙은 코드로 작성하며, 판단이 필요한 단계만 모델에 맡기는 방식으로 시스템을 구축할 수 있다. 결과물은 모델 내부가 아닌 외부(메모리)에 저장하여 처리함으로써 모델의 인지 부하를 줄이는 것이 핵심이다. 시스템 구축 과정 자체에는 여전히 강력한 모델이 필요하지만, 완성된 시스템을 활용하면 비용 효율적인 저성능 모델로도 대규모 모델을 능가하는 퍼포먼스를 낼 수 있다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.