참고팁Reddit
로컬 LLM Qwen3.8(큐원 3.8)(27B)으로 개인 문서 분석 및 비용 검증 워크플로우 구축
Ollama(올라마) 환경에서 고성능 로컬 모델을 활용해 CSV 차팅, PDF 해석, 지식 그래프 저장을 수행하는 구체적인 실무 사례.
요약
사용자가 로컬 환경에서 구동하는 Row-Bot 5.0과 Qwen3.8:27b 모델을 활용해 임대차 계약서 및 공과금 고지서를 분석하고 문제점을 발견하는 사례가 Reddit에서 공유되었다. 이 시스템은 API 키나 클라우드 연동 없이 개인 GPU 환경에서 작동하며, CSV 데이터를 Plotly로 차트화하고 PDF 내 특정 조항(4.1~4.3)을 인용해 임대료 인상률 및 통지 기간 위반을 포착했다. 분석 과정에서 추출된 정보는 로컬 지식 그래프에 8개의 연결된 메모리로 저장되었으며, 에이전트에게 보낼 이메일 초안 작성과 알림 설정까지 자동으로 수행했다. 성능 면에서 dense 27B 모델은 NVIDIA GeForce RTX 5090 환경에서 초당 약 15 토큰을 처리하며 일부 작업은 2분 이상 소요되었다. 해당 솔루션은 Windows, macOS, Linux 등 다양한 OS에서 구동 가능하다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 A local 27B model reads my lease and finds a leak in my bills | Row-Bot + qwen3.8 on Ollama
원문 보기 ↗