중요X
Unsloth Desktop 출시: 로컬에서 모델 실행·학습하는 첫 오픈소스 데스크톱 앱
VRAM 70% 절감·2배 빠른 학습에 Claude Code 로컬 연동까지. 온프레미스 파인튜닝 검토 가치.
요약
UnslothAI가 로컬 환경에서 모델 구동 및 학습을 지원하는 최초의 데스크톱 애플리케이션 'Unsloth Desktop'을 출시했다. 오픈소스로 Mac, Windows, Linux를 지원하며 MLX, GGUF, diffusion, 오디오 모델 등 다양한 포맷을 호환한다. 특히 기존 대비 학습 속도는 2배 빠르고 VRAM 사용량은 70% 절감할 수 있으며, CPU부터 NVIDIA, AMD, Intel, Mac 등 멀티 GPU 환경까지 폭넓게 구동 가능하다. Claude Code 및 Codex를 로컬 LLM과 연결할 수 있으며, 50% 향상된 정확도의 셀프 힐링 툴 호출 및 샌드박스 코드 실행 기능을 제공한다. 또한 프라이빗 웹 검색, RAG, MCP 기능과 함께 OpenAI 호환 API 및 원격 LLM 배포를 지원해 개발자 편의성을 높였다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 @UnslothAI: Introducing Unsloth Desktop 🦥 The first desktop app to run and train models locally. • Open-source. Runs on Mac, Windows and Linu
원문 보기 ↗