LG유플러스, 온디바이스 AI 추론 가속 및 전력 최적화 기술 공개

요약

LG유플러스가 스마트폰 온디바이스 AI의 처리 속도를 기존 대비 약 4.5배 높이고 배터리 소모를 77% 절감하는 기술을 개발했다. 해당 기술은 통화 서비스용 소형언어모델(sLM)에 경량화와 추론 가속 기술을 적용한 것으로, AI 토큰 최적화 기술 연구 논문 2편이 오는 12월 6일 호주 시드니에서 열리는 세계 3대 AI 학회 '뉴립스(NeurIPS) 2026'에 채택되었다. 이번 연구는 제한된 스마트폰 메모리와 배터리 환경에서 AI 응답 지연과 전력 사용을 최적화하는 데 중점을 두었다. 특히 개인정보를 외부 서버로 보내지 않고 기기 내부에서 직접 모델을 학습시키는 기술을 구현하여 서버 학습 모델과 유사한 정확도를 검증했다. LG유플러스는 확보된 최적화 기술을 자사 AI 서비스에 적용하는 한편, 향후 서버 GPU 환경까지 연구 범위를 확대할 계획이다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.