참고팁Reddit
audio.cpp 0.3 업데이트: RTX 5090에서 10시간 분량 오디오를 3분 만에 생성
Supertonic 3 등 신규 모델 추가 및 로컬 추론 성능 최적화. 고속 로컬 TTS 파이프라인 구축 시 참고.
요약
오픈소스 프로젝트 audio.cpp의 0.3 버전이 공개되며 Supertonic 3, MOSS-TTS, IndexTTS2, Irodori-TTS 등 5종의 새로운 모델을 지원하기 시작했다. 특히 Supertonic 3 모델은 RTX 5090 환경에서 200배 이상의 실시간 성능을 발휘하며, 10시간 분량의 오디오를 단 3분 만에 생성하는 압도적인 속도를 보여준다. CUDA 스트리밍 모드에서는 약 47ms의 TTFT(Time to First Token)를 기록하며, CPU에서도 6배 이상의 속도를 보장한다. 개발자는 공식 ONNX 구현을 역공학하여 safetensors 가중치를 기반으로 재구축함으로써, 기존 파이썬 구현체 대비 CUDA 환경에서 훨씬 빠른 성능을 최적화했다. 이번 업데이트를 통해 로컬 환경에서의 고속 AI 음성 합성 작업 효율이 대폭 향상될 것으로 기대된다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 [audio.cpp] 10 hours of audio generated in 3 minutes on RTX 5090 (demo included)! C++/GGML based Supertonic 3, MOSS-TTS, IndexTTS2, and Irodori-TTS released
원문 보기 ↗