중요The Verge
OpenAI, 자체 AI 칩 'Jalapeño' 공개…추론 속도·처리량 동시 개선 주장
브로드컴과 만든 추론 특화 ASIC. GPU 의존 완화 시 API 응답속도·단가 변화 주시할 것.
요약
OpenAI가 지난 화요일 블로그를 통해 자체 개발한 AI 칩 'Jalapeño'가 경쟁 제품 대비 더 효율적인 작업 수행과 빠른 응답 속도를 제공한다고 발표했다. OpenAI 하드웨어 부사장 Richard Ho는 기존 AI 시스템이 지연 시간(latency)과 처리량(throughput) 사이에서 절충해야 했던 것과 달리, Jalapeño는 두 가지 모두에서 최적의 성능을 제공한다고 설명했다. 지난 6월 처음 공개된 Jalapeño는 Broadcom과 협력하여 개발한 ASIC(주문형 반도체)이다. 해당 칩은 훈련된 AI 모델을 실행하거나 에이전트를 배포하는 AI 추론 작업에 특화되어 설계되었다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 OpenAI says its Jalapeño chip can power faster AI responses than the competition
원문 보기 ↗