엔터프라이즈 AI 인프라의 함정: 투자 가속화와 가시성의 불일치

요약

최근 107개 기업을 대상으로 한 조사에 따르면, AI 인프라 투자 속도가 이를 관리하고 비용을 산출하는 기업의 역량을 크게 앞지르는 '컴퓨트 격차(compute gap)' 현상이 심화되고 있다. 응답 기업의 83%가 GPU 가동률을 50% 이하로 유지하고 있으며, AI 컴퓨팅 비용을 엄밀하게 추적하는 기업은 절반 미만(44%)에 불과하다. 현재 AI를 대규모로 운영 중인 기업은 21% 수준임에도 불구하고, 45%의 기업이 향후 1년 내 AI 특화 클라우드로 전환하거나 추가 도입을 검토 중이다. 인프라 공급업체 교체 의사 또한 높게 나타나, 64%의 기업이 향후 12개월 내, 38%는 다음 분기 내에 공급업체를 변경하거나 추가할 계획이다. 기업들은 의사결정 시 토큰 가격(8%)보다 기존 스택과의 통합성(41%)과 총소유비용(35%)을 우선적으로 고려하고 있다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.