Ollama 유휴 메모리 자동 해제 도구 'ModelNap' 오픈소스 공개

요약

macOS 환경에서 Ollama 사용 시 유휴 상태에서도 메모리를 점유하는 문제를 해결하기 위해 오픈소스 앱 ModelNap이 출시되었습니다. 이 앱은 5분에서 60분 사이의 유휴 시간이 감지되면 모델을 자동으로 언로드하여 시스템 메모리를 확보합니다. 사용자는 메뉴 막대나 단축키(⌥⌘O)를 통해 Ollama를 간편하게 켜고 끌 수 있으며, brew services, LaunchAgent 등 다양한 방식으로 실행된 Ollama를 적절하게 제어합니다. idle 감지는 ollama runner 프로세스의 CPU 사용량을 기반으로 이루어지며, 모델을 다시 호출할 때 즉시 리로드됩니다. Swift로 작성된 본 앱은 macOS 14 이상에서 지원되며, MIT 라이선스를 따르는 무설치, 노 텔레메트리 도구입니다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.