AI 개발 속도 조절론에도 불구하고 컴퓨팅 자원 수요는 여전히 폭발적
모델 고도화 속도와 무관하게 실사용 수요가 공급을 압도하고 있어 인프라 부족 현상은 당분간 지속될 전망.
요약
프론티어 AI 개발 속도 조절 논의와 별개로, 현재 모델만 배포해도 전 세계가 수년간 공급 가능한 컴퓨팅 자원을 넘어서는 수요가 존재한다. Anthropic은 올해 1분기 성장세가 예상보다 8배 빠른 80배를 기록하며 컴퓨팅 부족 문제를 겪었으며, Google 또한 1년 전 대비 7배 많은 토큰을 처리 중이다. 핵심 병목 현상은 AI 칩에 필수적인 HBM 메모리로, 현재 주요 제조사 3곳의 물량이 올해 모두 매진된 상태이며 신규 공장 건설에도 수년이 소요된다. NVIDIA는 내년 매출 성장을 약 70%로 예상하지만, 고객사 수요 전망치는 100%에 육박해 여전히 공급 제약이 심각하다. 또한 Goldman Sachs는 향후 2년간 계획된 미국 내 데이터센터 전력 용량 중 절반만이 제때 완공될 것으로 분석했다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 @danroberts0101: A few people asked over the weekend what the calls to slow the pace of frontier AI mean for the buildout. Some thoughts: Even if m
원문 보기 ↗