CPU부터 LPU까지, AI 하드웨어 아키텍처 5종 핵심 비교

요약

AI 하드웨어 아키텍처는 범용성에서 특수성으로 발전하며 CPU, GPU, TPU, NPU, LPU 등 5가지 형태로 구분된다. CPU는 소수의 강력한 코어로 복잡한 논리 연산에 최적화된 범용 컴퓨팅을 수행하며, GPU는 수천 개의 코어를 활용한 병렬 처리로 AI 학습의 주류가 되었다. TPU는 Google이 신경망 연산을 위해 설계한 전용 가속기로, 데이터 흐름을 최적화한 MAC 유닛을 통해 메모리 접근을 줄인다. NPU는 스마트폰이나 IoT 기기 등 엣지 환경에서 저전력으로 AI 추론을 수행하도록 설계되었으며, Apple Neural Engine과 Intel NPU가 대표적이다. 최신 기술인 LPU는 Groq이 개발한 것으로, 오프칩 메모리를 제거하고 온칩 SRAM만 사용하여 실시간성 추론에서 압도적인 지연 시간 단축 효과를 제공한다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.