참고팁Simon Willison
macOS용 로컬 LLM 실행 앱 'Nativ' 출시
MLX 기반으로 동작하며 LM Studio와 유사한 로컬 API 서버 기능을 제공. 로컬 모델 실험 시 유용.
요약
Prince Canuma가 개발한 Nativ은 Mac 환경에서 AI 모델을 로컬로 구동할 수 있게 해주는 새로운 macOS 데스크톱 애플리케이션이다. 이 앱은 MLX 기반의 Vision-LLM 라이브러리인 MLX-VLM을 바탕으로 제작되었다. LM Studio와 유사하게 채팅 인터페이스와 모델 접속을 위한 로컬호스트 API 서버를 동시에 제공하는 것이 특징이다. 특히 기존 Hugging Face 캐시 디렉토리에 저장된 MLX 모델을 자동으로 인식해 불러올 수 있어 사용자 편의성이 높다. 로컬 머신에서 효율적으로 LLM 및 VLM을 운영하려는 Mac 사용자들에게 유용한 도구가 될 것으로 기대된다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 Nativ: Run AI models locally on your Mac
원문 보기 ↗