참고팁Reddit
Ollama 기반의 오픈소스 AI 워크스페이스 구축 가이드
로컬 LLM 환경에 에이전트 태스크와 MCP 도구 등을 결합해 별도의 외부 API 호출 없이 로컬 에이전트 환경을 구축할 수 있습니다.
요약
Ollama 기반의 오픈소스 AI 워크스페이스가 새롭게 공개되었으며, 데이터 외부 유출 없이 로컬 환경에서 에이전트 작업과 도구 사용, 심층 연구 기능을 수행할 수 있다. 이 도구는 OpenAI 호환 엔드포인트를 지원하여 Ollama를 모델 백엔드로 별도 어댑터 없이 바로 연결 가능하다. LiteLLM 프록시를 통해 vLLM이나 NVIDIA NIM, OpenRouter 등 다양한 모델 소스를 유연하게 통합할 수 있다. 특히 외부 키를 사용할 경우 AES-256-GCM으로 암호화하여 보안을 강화했으며, 키를 등록하지 않으면 모든 모델 호출은 로컬에서만 이루어진다. 에이전트 태스크 기능은 쉘, 파이썬, 브라우저 환경이 포함된 지속적인 Docker 샌드박스 내에서 다단계 목표를 수행할 수 있도록 지원한다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 Built an MIT self-hosted AI workspace that runs on top of Ollama — agent tasks, MCP tools, deep research, one-command install
원문 보기 ↗