로컬 LLM 기반 24시간 자동 라이브 스트리밍 구현 사례

요약

SlopTV는 유튜브 실시간 채팅을 기반으로 AI가 영상을 무한 생성하는 로컬 구동 스트리밍 프로젝트입니다. 사용자가 채팅창에 주제를 입력하면 LLM이 이를 400단어 분량의 영상 프롬프트로 확장하며, 2개의 RTX 5090 GPU를 사용하여 MiniMax H3 모델로 15초 분량의 영상을 즉시 렌더링합니다. 이 시스템은 약 90초의 클립 생성 시간을 소요하며, GPU 2대를 교차로 사용하여 45초마다 새로운 영상을 지속적으로 송출합니다. 모델 구동을 위해 66GB 용량의 하드웨어 리소스가 필요하며, VRAM 부족분은 ComfyUI의 VRAM 오프로드 기능을 통해 처리합니다. 채팅이 없는 경우에도 LLM이 스스로 개념을 창작하여 24시간 내내 끊임없이 콘텐츠를 생산하는 것이 특징입니다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.