iPad와 외장 AMD GPU 환경에서 Qwen3.8(큐원 3.8)-27B 구동 성공

요약

LemonSeed Studio가 iPad Pro에서 외부 AMD GPU(Radeon AI PRO R9700)를 활용해 Qwen3.8-27B 모델을 구동하는 데 성공했다. 이 시스템은 Thunderbolt 인클로저와 iPad를 연결하고, 독자적인 LemonSeed Engine(LSE)을 통해 리눅스 amdgpu 드라이버를 iPadOS상에서 작동시킨다. LSE는 플랫폼에 관계없이 GPU별 최적 커널을 생성하며, 131k 컨텍스트 환경에서 Qwen3.8-27B Q4 모델을 R9700 기준 159 tok/s, Strix Halo 기준 64 tok/s의 속도로 추론한다. 또한, 추측 디코딩(MTP 및 DFlash2)을 사용하여 실시간으로 검증할 초안 토큰 수를 최적화함으로써 효율적인 온디바이스 추론을 지원한다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.