Hugging Face, 200여 개 WebGPU 커널 라이브러리 공개
로컬 AI 및 브라우저 기반 모델 최적화에 활용 가능한 WebGPU 커널 세트. GPU 벤치마킹 도구 Fleet 포함.
요약
Hugging Face가 최적화된 WebGPU 커널을 로드하고 실행하기 위한 라이브러리인 '@huggingface/kernels'를 출시했다. 이번 릴리즈에는 머신러닝 아키텍처 및 워크로드 전반에 사용되는 207개의 커널이 포함되어 있으며, 각 커널은 인터페이스, 셰이더 템플릿, 테스트 케이스 등이 포함된 버전별 패키지로 Hugging Face Hub에 공개된다. 함께 공개된 'Fleet'은 브라우저 내 GPU 벤치마킹 및 테스트 스위트로, 사용자의 하드웨어에서 커널 성능을 측정하고 결과를 공유할 수 있다. 커널 실행을 통해 수집된 익명의 데이터는 커널 오류 파악, 성능 최적화, 변형 개선 등 실사용 하드웨어 기반의 연구에 활용될 예정이다. 웹 환경에서의 모델 실행을 지원하는 WebGPU와 WGSL 기술을 통해 브라우저 기반의 AI 개발이 더욱 용이해질 것으로 기대된다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 Introducing @huggingface/kernels: 200+ WebGPU Kernels for Local AI
원문 보기 ↗