중요Reddit
구글, 온디바이스 GPU 추론 엔진 'ML Drift' 오픈소스 공개
OpenGL·OpenCL·Metal·WebGPU 통합 지원. 엣지·로컬 AI 배포 시 GPU 가속 벤치 가치 있음.
요약
구글 AI Edge 팀이 고성능 온디바이스 GPU 연산 엔진인 ML Drift를 오픈소스(Apache 2.0 라이선스)로 공개했다. 이 엔진은 OpenGL ES, OpenCL, Metal, WebGPU 등 다양한 그래픽 API의 복잡성을 추상화하여 온디바이스 환경에서 통합된 GPU 가속을 지원한다. 이를 통해 개발자는 고급 영상 효과부터 생성형 AI까지 다양한 실시간 AI/ML 추론 경험을 여러 플랫폼에서 구현할 수 있다. ML Drift는 LiteRT의 핵심 GPU 가속 엔진으로 사용되며, 커스텀 그래픽 및 추론 런타임을 위한 독립형 라이브러리로도 제공된다. 이번 공개를 통해 파편화된 모바일 및 엣지 디바이스 GPU 환경에서도 일관된 고성능 AI 성능을 확보할 수 있는 토대가 마련되었다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 GitHub - google-ai-edge/ml-drift: GPU-Accelerated AI/ML Inference
원문 보기 ↗