참고팁Reddit
M5 Max Mac Studio(128GB) 로컬 AI 환경 구축 가이드
Qwen3.8(큐원 3.8)-27B 및 에이전트 스택을 Mac에서 최적으로 구동하기 위한 인퍼런스 및 서버 설정 공유.
요약
Mac Studio M5 Max(128GB 통합 메모리) 기반의 로컬 AI 환경 구축 사례가 공유되었다. 추론을 위해 Splish와 incoai/Qwen3.8-27B-Splash 모델을 사용하며, 262,144 토큰의 컨텍스트와 48GB 메모리 예산을 설정한 OpenAI 호환 엔드포인트를 운영한다. 에이전트 시스템은 Agentic Workers에 배포된 Hermes를 사용하며, 컨텍스트 압축률은 75%로 설정했다. 하위 에이전트인 OpenCode는 Muse Spark 클라우드 경로를 활용해 로컬 GPU 자원을 확보하는 방식으로 워크플로우를 최적화했다. 이 시스템은 지속적인 목표 설정부터 브라우저 검증까지의 과정을 자동화하는 데 중점을 두고 있다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 Bought a M5 Max Mac Studio with 128GB for Local AI
원문 보기 ↗