참고팁Reddit
로컬 LLM 기반 문서 분석 도구 'SurfSense' 오픈소스 공개
문서 질의응답 및 로컬 파일 편집을 지원하는 오픈소스 툴로, 로컬 환경 RAG 구축 시 참고 가능.
요약
오픈소스 데스크탑 앱 SurfSense는 로컬 모델이나 OpenAI 호환 모델을 사용하여 문서 기반의 Q&A 및 에이전트 기능을 제공한다. 이 앱은 문서뿐만 아니라 Word, PDF, PowerPoint, Excel 파일을 직접 작성하고 편집할 수 있는 기능을 갖추고 있다. 기술적으로는 llama.cpp를 로컬 텍스트 처리에, stable-diffusion.cpp를 이미지 처리에, audio.cpp를 음성 인식 및 변환에 활용한다. 또한 Ollama, LM Studio, vLLM 등 OpenAI 호환 서버를 원격 엔드포인트로 연결할 수 있다. 문서 처리의 경우 Docling을 활용하며, 스캔 이미지나 사진은 RapidOCR 또는 Apple Vision을 통해 OCR을 수행한다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 Building a local NotebookLM app (open source)
원문 보기 ↗