비드래프트, 추론 전용 NPU로 언어모델 사전학습 성공…GPU 의존도 낮춘다

요약

AI 기업 비드래프트가 엔비디아 GPU를 사용하지 않고 오직 추론 전용 NPU만을 활용해 소형 언어모델의 사전학습을 성공했다고 15일 밝혔다. 일반적으로 추론 전용 NPU는 모델 학습에 필수적인 역전파 연산을 처리하기 어려워 학습용으로는 사용되지 않았으나, 비드래프트는 이 한계를 극복하고 사전학습된 가중치 없이 모델을 처음부터 학습시키는 데 성공했다. 이번에 개발된 모델 'VKORE-46M-NPU'는 NPU 기반 학습의 가능성을 입증한 사례로, 관련 모델과 분석 자료는 허깅페이스를 통해 공개되었다. 이번 성과는 향후 AI 학습 과정에서 값비싼 GPU에 대한 의존도를 낮출 수 있는 새로운 기술적 대안이 될 것으로 기대된다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.