참고ZDNet Korea
디노티시아, AI 검색 병목 해결할 전용 반도체 'VDPU' 발표
데이터 검색 전용 반도체로 CPU 대비 검색 속도 15배 향상, RAG 인프라 병목 해결.
요약
AI 에이전트 시대가 도래하며 연산 병목 현상이 GPU를 넘어 CPU와 메모리로 이동하고 있으며, 현재 데이터센터 CPU 워크로드의 60~70%가 데이터 검색에 소모되고 있다. 디노티시아 정무경 대표는 ‘AI 페스타 26’에서 비대해진 KV 캐시와 데이터 검색량 증가가 AI 인프라의 주요 병목 원인이라고 진단했다. 디노티시아는 이를 해결하기 위해 의미 기반 검색 속도를 기존 CPU 대비 최대 15배 향상시킨 전용 반도체 VDPU를 개발했다. VDPU는 CPU 개입 없이 데이터를 GPU 메모리에 직접 전달하는 '제로 카피' 기술을 지원하여 데이터 이동 지연을 획기적으로 줄인다. 디노티시아는 향후 VDPU 하드웨어와 AI 메모리 소프트웨어를 결합한 AI 스토리지 시스템을 구축해 GPU 성능을 극대화하는 인프라 패러다임을 주도할 계획이다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 "GPU 다음은 데이터 병목"…디노티시아, VDPU로 AI 인프라 새 판 짠다
원문 보기 ↗