AMD, 모델 가중치를 실리콘에 직접 식각하는 칩 스타트업 Taalas 인수
모델 특화 칩으로 초당 1.7만 토큰 시연. NVIDIA 대안 노린 저비용 추론 인프라 지형 변화 주시.
요약
AMD가 AI 추론 성능을 획기적으로 높이기 위해 AI 칩 스타트업 Taalas를 인수했습니다. Taalas는 모델 가중치를 실리콘에 직접 각인하는 방식인 MSIC(Model-Specific Integrated Circuit) 기술을 보유하고 있으며, 이는 기존 GPU나 데이터 흐름 아키텍처와는 차별화된 접근 방식입니다. 지난 2월 공개된 Taalas의 TSMC 6nm 공정 기반 HC1 테스트 칩은 Meta의 Llama 3.1 8B 모델을 초당 16,960 토큰의 속도로 처리하는 성능을 보였습니다. 이번 인수는 AMD가 AI 에이전트 구동에 필요한 추론 서비스를 더 빠르고 저렴하게 제공하여 Nvidia의 하드웨어 시장 지배력에 대응하기 위한 전략으로 풀이됩니다. 구체적인 인수 조건은 공개되지 않았으나, 단순 인력 채용을 넘어 기술 확보를 위한 실제 기업 인수 형태입니다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 AMD acquires Taalas to boost inference performance by etching models in silicon
원문 보기 ↗