애플 뉴럴 엔진(ANE) 내부 구조 역설계 및 기술적 한계 분석
M1 ANE 역설계 경험을 통해 애플의 NPU 설계 철학과 변천사를 분석. 로컬 LLM 하드웨어 특성을 이해하는 데 유용한 통찰 제공.
요약
Apple Neural Engine(ANE) 드라이버 역설계를 중단했던 개발자가 M1 칩의 ANE 내부 아키텍처를 상세히 분석하는 프로젝트를 재개했다. ANE는 아키텍처가 지나치게 폐쇄적이라 범용 가속기 플랫폼으로 활용하기 어려웠으며, macOS에서도 Finder의 이미지 업샘플링 등 제한적인 용도로만 사용되어 왔다. 최근 M5 칩에서 ANE 코어가 GPU 코어 내부로 통합되면서, 독립형 NPU 시대가 저물고 있음을 시사하고 있다. 이번 역설계의 목표는 A11 Bionic(2017)부터 시작된 ANE의 내부 설계 결정과 데이터 처리 방식을 규명하는 것이다. 이를 통해 CNN 중심의 NPU 설계가 트랜스포머 모델을 구동하는 최신 GPU로 어떻게 변화했는지에 대한 Apple의 기술적 통찰을 확인할 수 있을 것으로 기대된다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 Retrospectively Reverse-Engineering Apple's Neural Engine
원문 보기 ↗