라즈베리 파이 5 기반 Ollama 구동: Gemma 4 vs Phi-4-Mini vs Qwen3-4B 성능 비교

요약

Raspberry Pi 5(8GB RAM) 환경에서 Ollama를 활용한 경량 LLM 구동 테스트 결과, Gemma 4 E2B, Phi-4-Mini, Qwen3-4B 모델이 실무적으로 고려할 만한 선택지로 확인되었다. Gemma 4 E2B는 약 7.6 tok/s의 속도로 멀티모달 및 함수 호출(Function Calling)에 강점이 있으며, Phi-4-Mini는 5~8 tok/s 속도로 추론과 코드 생성 작업에 최적화되어 있다. Qwen3-4B는 5~7 tok/s 속도를 보이며 강력한 툴 사용 능력과 다국어 지원이 장점이다. 테스트 결과 모델이 단순 구동되는 것과 원활한 대화형 작업이 가능한 것은 별개이며, 스왑 메모리 사용이 발생하면 대용량 변형 모델의 경우 성능 저하가 눈에 띄게 나타났다. 로컬 RAG 및 에이전트 워크플로우 구축 시 메모리 압박과 양자화 설정을 고려한 신중한 모델 선택이 필수적이다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.