참고AI타임스
LG유플러스-옵트에이아이, AI 모델 경량화 기술 협력
국내 통신사의 모델 최적화 및 경량화 시도. 온디바이스 AI 환경 구축을 위한 사례.
요약
LG유플러스가 AI 모델 최적화 전문기업 옵트에이아이와 협력하여 모델 경량화를 통한 '토큰 최적화' 기술 확보에 나선다. 이번 협력에서 옵트에이아이는 경량화 연구·개발을, LG유플러스는 기술 검증과 적용을 담당한다. 양사는 LG의 AI 모델 '엑사원'을 기반으로 경량화를 진행해 신경망처리장치(NPU)에서도 구동 가능한 환경을 구현했다. 이를 통해 CPU 방식과 동등한 성능을 유지하면서도 전력 소모는 78%, 모델 크기는 82% 절감하는 성과를 냈다. 한편, SBVA는 데이터브릭스가 진행한 50억 달러(약 6조 8000억 원) 규모의 전략적 투자 라운드에 참여했다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 [게시판] LG유플러스, 옵트에이아이와 AI 모델 경량화 협력 등 단신
원문 보기 ↗