중요AI타임스
KAIST, '지식 재사용' CURE로 서버 호출 57% 감축…증류·추가학습 불필요
소형·대형 모델 협업 시 서버 API 호출·비용 절감 여지. 온디바이스 서비스 설계 시 검토 가치.
요약
KAIST 이재길 전산학부 교수 연구팀이 기기의 소형 AI와 서버의 대형 AI를 연결해 서버 호출을 57% 줄이는 협업 프레임워크 ‘CURE(Cumulative Knowledge Reuse)’를 개발했다. 이 기술은 문제 난이도에 따라 필요한 연산량이 다르다는 점에 착안해, 한 번 얻은 지식을 기기 내부 저장소에 저장했다가 재사용하는 방식이다. 기존 모델을 추가로 학습시키거나 증류(Distillation)하는 과정이 필요 없어 효율적인 온디바이스 AI 구현이 가능하다. 이번 연구는 대형 AI 모델에 대한 서버 의존도를 낮출 수 있어 실무적인 온디바이스 AI 최적화에 기여할 것으로 기대된다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 KAIST, ‘지식 재사용’으로 서버 호출 57% 줄였다…“증류·추가학습 필요 없어”
원문 보기 ↗