참고팁Reddit
로컬에서 30B 모델 효율적으로 돌리는 법: VRAM 최적화와 모델 선택 가이드
Flux 2 Dev 등 대형 모델을 로컬 ComfyUI에서 효율적으로 구동하는 VRAM 관리 및 모델 선택 전략을 제공함.
요약
최근 AI 이미지 생성 모델 시장에서 Qwen 2.1, Krea 2, Flux 2 Dev 등 다양한 규모의 모델이 경쟁력을 보이고 있다. 7B 규모의 Qwen 2.1은 T2I(Text-to-Image)와 I2I(Image-to-Image) 편집 성능이 뛰어나며, 12.9B 규모의 Krea 2는 T2I 작업에 특화되어 있다. Flux 2 Dev는 30B 모델로 T2I와 I2I 모두 가능하며 AA Arena 기준 Elo 1000점을 기록해 GPT Image 1과 유사한 수준의 성능을 보여준다. VRAM 용량이 부족해도 시스템 RAM과 VRAM의 합이 모델 크기 이상이라면 현대적인 ComfyUI의 블록 오프로딩 기능을 통해 로컬 환경에서 충분히 구동 가능하다. 사용자는 자신의 하드웨어 사양에 맞춰 필요에 따라 적절한 모델을 선택하여 활용할 수 있다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 Setting up expectation
원문 보기 ↗