Unsloth, 로컬 모델 학습 및 구동 데스크톱 앱 공개
로컬 LLM 학습/구동 효율화로 유명한 Unsloth의 데스크톱 앱. Mac/Win/Linux 지원 및 Claude Code 연동 가능.
요약
Unsloth는 로컬 환경에서 LLM을 실행하고 학습시킬 수 있는 오픈소스 데스크톱 애플리케이션 Unsloth Desktop을 출시했다. 이 앱은 Mac, Windows, Linux를 지원하며 MLX, GGUF, 확산 모델 등을 포함한 다양한 모델을 다룰 수 있다. 기존 대비 2배 빠른 학습 속도와 70% 적은 VRAM 사용량을 제공하며, NVIDIA, AMD, Intel, Mac 등 CPU 및 멀티 GPU 환경을 폭넓게 지원한다. 또한 Claude Code와 Codex를 로컬 LLM에 연결할 수 있고, 50% 향상된 툴 호출 정확도와 샌드박스 코드 실행 환경을 갖췄다. 사용자는 프라이빗 웹 검색, RAG, MCP 기능 등을 활용할 수 있으며, OpenAI 호환 API를 통해 클라우드 모델과 로컬 모델을 통합하여 운영할 수 있다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 Meet Unsloth Desktop: new open-source desktop app for local AI
원문 보기 ↗