중요ZDNet Korea
리벨리온 NPU, SKT 4대 상용 AI 서비스 엔진으로 채택…일 40억 토큰 처리
국산 NPU가 대규모 실전 트래픽을 감당하는 첫 상용 레퍼런스. GPU 대안 검토 시 참고할 만.
요약
국내 AI 반도체 스타트업 리벨리온의 NPU '아톰맥스(ATOM-Max)'가 SK텔레콤의 주요 상용 AI 서비스 4종의 핵심 엔진으로 전면 확대 적용되었다. 지난 6월부터 에이닷 통화요약 '한 줄 요약', 스트리밍 음성합성(TTS), AI 고객센터(AICC) 시스템, 스캠뱅가드 등 4대 서비스에 리벨리온 NPU가 도입되어 운영 중이다. 현재 리벨리온 인프라는 하루 약 1,400만 건의 트래픽과 40억 개 이상의 토큰을 처리하며 글로벌 수준의 상용 성능을 입증했다. SK텔레콤은 NPU 팜(Farm)을 구축하고 워크로드에 맞춰 GPU와 NPU를 유연하게 재배치하는 풀(Pool) 방식을 통해 전사 컴퓨팅 인프라 비용을 절감했다. 리벨리온은 이번 실적을 발판 삼아 금융·통신·공공 등 국내외 AI 시장 공략을 가속화할 계획이다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 리벨리온 NPU, SKT 4대 상용 AI 서비스에 채택…'하루 40억 토큰' 처리
원문 보기 ↗