참고Reddit
Krea 2 Turbo 모델 형식별 벤치마크…RTX 6000 Ada 환경에서 int4 양자화가 효율 1위
고성능 GPU 환경에서의 모델 서빙 시, 양자화 방식에 따른 처리 속도와 VRAM 최적화 가이드를 제공합니다.
요약
Reddit 사용자가 NVIDIA RTX PRO 6000 Blackwell 서버 환경에서 Krea 2 Turbo 모델의 8개 포맷을 ComfyUI로 벤치마크한 결과를 공개했다. 테스트 결과 1024×1024 해상도에서는 int8_convrot 포맷이 2.424초로 가장 빨랐으며, 2048×2048 해상도에서는 int4_convrot 포맷이 12.678초로 최단 시간을 기록했다. 특히 int4_convrot 포맷은 20.6 GiB의 피크 VRAM 사용량으로 속도와 메모리 효율성 측면에서 가장 균형 잡힌 선택지로 평가받았다. 이번 실험에서 네이티브 양자화 체크포인트가 GGUF 변형 모델들보다 전반적으로 빠른 속도를 보였다. 반면 GGUF Q4_K_M은 가장 작은 체크포인트임에도 불구하고 두 해상도 모두에서 최하위 속도를 기록했다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 Krea 2 Turbo ComfyUI speed benchmark: 8 model formats on RTX PRO 6000 Blackwell
원문 보기 ↗