참고팁Reddit
로컬 환경 RAG 및 회의록 자동화 맥 앱 'DevPlus' 공개
Ollama 기반으로 dictation부터 RAG까지 로컬에서 즉시 구동 가능한 스택 공유. 하드웨어 최적화 참고.
요약
최근 한 개발자가 Ollama 기반으로 받아쓰기, 회의록 요약, RAG 기능을 제공하며 모든 데이터가 로컬에서 처리되는 Mac 앱을 오픈소스(GPL-3.0)로 공개했다. 음성 처리를 위해 NVIDIA Parakeet TDT 0.6B v3(Core ML 최적화)와 다국어 지원을 위한 Whisper large-v3-turbo를 탑재했다. 텍스트 정리 및 질의응답을 위한 LLM으로는 Gemma 4 모델 시리즈를 사용했으며, RAM 용량에 따라 2b, 4b, 12b, 26b 모델을 선택적으로 구동할 수 있다. 검색 엔진은 SQLite 기반의 FTS5(BM25)와 EmbeddingGemma 벡터를 결합해 구현했다. 현재 로컬 환경에서도 즉각적인 반응 속도를 보일 정도로 기술적 완성도가 높아졌다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 Built a fully local Mac app on Ollama (dictation, meeting notes, RAG): numbers and lessons from Gemma 4 e2b vs 26b, open source
원문 보기 ↗