딥엑스, 2세대 AI 칩 'DX-M2' 테이프아웃…5W 미만서 1,000억 파라미터 추론 목표

요약

한국 엣지 AI 반도체 스타트업 딥엑스(DeepX)가 2세대 AI 가속기 'DX-M2'의 테이프아웃을 완료했다. DX-M2는 로봇이나 드론과 같이 전력 및 발열 제약이 큰 환경에서 5W 미만의 전력으로 200억~1,000억 파라미터 규모의 모델을 초당 10~30토큰 속도로 추론하는 것을 목표로 한다. 메모리 대역폭은 전작 대비 3배 강화된 150GB/s로 설계되었으며 활성 파라미터는 30억~200억 개 수준이다. 특히 삼성전자의 LPDDR5x-PIM과 결합해 Llama3.1-8B 모델을 구동할 경우, 단독 처리 대비 6.7배의 처리량 향상이 예상된다. 다만 이 경우 전체 소비전력도 2.7배 증가하므로, 동일 전력 대비 약 2배의 성능 향상 효과를 기대할 수 있다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.