중요X
AMD, EPYC 코어 최대 3.3만 개 집적한 AI 에이전트 랙 'Helion' 공개
에이전트 추론은 CPU 비중 커질 수 있음. 비용 최적 모델로 요청 라우팅하는 토큰 라우터 주목.
요약
AMD가 최대 3만 3천 개의 EPYC 코어를 탑재한 AI 에이전트 랙 솔루션인 Helion을 출시했다. 이번 프로젝트는 DELL, HPE, CSCO, SMCI와 협력하여 진행되며, GPU 외 CPU 컴퓨팅에 대한 수요 증가에 대응하기 위한 전략적 행보이다. 특히 Helion에는 각 요청을 가장 비용 효율적인 AI 모델로 전달하는 토큰 라우터 기술이 내장되어 있다. 이번 신제품은 AI 에이전트 수요가 급증하는 시장 환경에서 AMD의 CPU 경쟁력을 강화하고 인프라 효율성을 높이는 데 기여할 것으로 보인다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 @StockSavvyShay: $AMD just launched Helion which is an AI agent rack with up to 33K EPYC cores backed by $DELL, $HPE, $CSCO and $SMCI as agents dri
원문 보기 ↗