오픈AI, 자체 추론 칩 '할라피뇨' 벤치마크 공개...엔비디아 블랙웰 대비 3.6배 고속

요약

오픈AI가 브로드컴과 공동 개발한 자체 추론 전용 칩 '할라피뇨(Jalapeño)'가 엔비디아의 블랙웰 기반 시스템보다 3.6배 빠른 성능을 입증했다. 지난 25일(현지시간) '핫 칩스(Hot Chips)' 컨퍼런스에서 공개된 성능 테스트 결과에 따르면, 할라피뇨는 전력 대비 처리량과 응답 지연시간을 크게 개선하며 효율성을 높였다. 세미애널리시스의 추론 성능 평가인 '인퍼런스X(InferenceX)'에서 GPT-OSS 120 모델을 구동한 결과, 기존 칩 대비 압도적인 경쟁력을 보였다. 이번 결과는 오픈AI가 자체 칩 개발을 통해 고비용 추론 인프라 문제를 해결하려는 전략의 성과로 평가받고 있다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.