중요X
구글, 보안 및 대규모 컨텍스트용 신규 TPU '8tx·8i Max' 공개
엔비디아 GPU 대안 다변화 신호. 8i Max는 연산·메모리 2배로 긴 문맥 추론 비용 절감 여지.
요약
Google이 기밀 AI 워크로드를 위한 TPU 8tx와 대규모 컨텍스트 윈도우 처리를 위한 TPU 8i Max를 새롭게 공개하며 AI 칩 시장 경쟁을 강화하고 있습니다. 이번에 발표된 TPU 8i Max는 기존 8i 칩 2개를 결합한 형태로, 연산 능력은 물론 SRAM과 고대역폭 메모리 대역폭을 2배로 확장한 것이 특징입니다. 구글은 이를 통해 Nvidia가 주도하고 있는 AI 칩 시장에서의 입지를 더욱 넓히겠다는 전략입니다. 이번 신규 TPU 시스템 도입은 기업 고객들이 더욱 복잡하고 민감한 AI 모델을 구글의 인프라에서 효율적으로 운영할 수 있도록 지원하는 데 초점을 맞추고 있습니다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 @kimmonismus: Google is on a run! Google has introduced two new TPU systems: 8tx for confidential AI workloads and 8i Max for large context wind
원문 보기 ↗