참고팁Reddit
H3 영상모델 VRAM 벤치마크: 8GB 카드로도 구동 가능
RTX 4070급에서 피크 7GB대. 저사양 로컬 영상 생성 환경 구축 시 참고할 실측 설정값.
요약
최근 공개된 H3 FL2VA 체크포인트의 VRAM 사용량 벤치마크 결과, BF16 모델을 1376×768 해상도와 243 프레임(약 10.1초)으로 구동했을 때 idle 상태 대비 약 5.8~6.3 GiB의 VRAM이 추가로 소요되는 것으로 확인되었습니다. RTX 4070 환경에서 데스크톱 점유량을 포함한 전체 GPU 피크치는 약 7.0~7.4 GiB 수준으로, 8GB VRAM 그래픽카드에서도 충분히 구동 가능한 것으로 나타났습니다. ComfyUI의 다양한 어텐션 설정(FROST BF16, BF16 Triton, PlagueKind SLA, Sparse Kitchen INT8 등)을 적용해도 피크 VRAM 사용량은 6.97~7.40 GiB 범위 내에서 관리되었습니다. 특히 H3 Sparse Attention을 활용한 Kitchen INT8, Sparse Sage, FROST BF16 등 다양한 설정이 실질적으로 운용 가능합니다. 따라서 8GB VRAM 환경에서도 최적화 설정을 통해 H3 모델을 효율적으로 실행할 수 있을 것으로 보입니다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 How much VRAM does H3 need? Less than you might think.
원문 보기 ↗