중요X
DeepSeek, ARR 10억 달러 돌파…게이밍 GPU로 추론 돌려 학습 자원 확보
컴퓨팅 7:3 배분에 소형 모델 추론은 게이밍 GPU로. GPU 부족 시 비용 최적화 참고 사례.
요약
중국의 AI 스타트업 DeepSeek의 연간 반복 매출(ARR)이 10억 달러를 달성했다. DeepSeek는 전체 컴퓨팅 자원의 70%를 모델 학습에, 나머지 30%를 추론에 할당하고 있다. 특히 컴퓨팅 자원 부족 문제를 해결하기 위해 소형 모델의 추론 작업에는 NVIDIA의 게이밍 GPU를 적극적으로 활용하고 있다. 이러한 전략을 통해 확보된 학습용 컴퓨팅 자원을 집중적으로 활용하여 효율적인 모델 개발을 이어가고 있다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 @jukan05: The Information: DeepSeek’s ARR has reached $1 billion. DeepSeek allocates 70% of its compute capacity to training and 30% to infe
원문 보기 ↗