참고팁Reddit
맥용 로컬 LLM 앱 'Zikporx AI', 로컬 음성 대화 기능 업데이트
Whisper와 Phonon을 활용해 맥 로컬 환경에서 클라우드 연결 없이 지연 시간 짧은 음성 대화 구현 가능.
요약
Ollama 기반의 로컬 LLM 챗 클라이언트인 Zikporx AI가 완전한 오프라인 음성 채팅 기능을 업데이트했다. 사용자가 마이크를 통해 말하면 앱에 내장된 Whisper 모델이 이를 텍스트로 변환하며, 모든 데이터는 외부 서버를 거치지 않고 Mac 내부에서 처리된다. 응답을 들을 때는 Ollama 0.40.9 버전부터 지원하는 음성 모델 Phonon을 활용하여 텍스트를 읽어준다. Phonon 모델은 약 113MB의 가벼운 용량으로, 7초 분량의 문장을 0.3초 만에 생성할 만큼 속도가 빠르다. 총 38개의 음성을 선택할 수 있으며 코드 블록이나 테이블은 텍스트로 읽지 않고 화면에 표시된 대로 요약하여 안내하는 기능을 갖췄다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 Zikporx AI, my local LLM chat app for Mac, now does voice both ways: talk to it, and it talks back. Everything stays on your Mac.
원문 보기 ↗