참고HF Blog
NVIDIA-Hugging Face, 대규모 확산 모델 파인튜닝용 'NeMo Automodel' 공개
FLUX, Wan 2.1 등 오픈소스 모델 학습 시 메모리 효율적인 분산 학습 지원. 모델 변환 없이 바로 파인튜닝 가능.
요약
NVIDIA는 Hugging Face와 협력하여 Diffusers 라이브러리를 위한 프로덕션급 분산 학습 라이브러리 'NVIDIA NeMo Automodel'을 공개했다. 이 라이브러리는 별도의 체크포인트 변환이나 모델 코드 수정 없이 Hugging Face Hub에 있는 Diffusers 포맷 모델을 즉시 학습 및 파인튜닝할 수 있도록 지원한다. NeMo Automodel은 PyTorch DTensor 기반으로 설계되어 메모리 효율적인 샤딩, 잠재 공간(latent-space) 학습, 다중 해상도 버킷팅 등을 통해 단일 GPU부터 수백 대의 GPU까지 확장 가능한 학습 환경을 제공한다. 현재는 flow-matching 기반의 모델 학습만을 지원하며, Apache 2.0 라이선스로 오픈 소스 배포된다. 개발자들은 공식 Diffusers 학습 가이드를 통해 구체적인 연동 방법과 활용 사례를 확인할 수 있다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 Fine-tune video and image models at scale with NVIDIA NeMo Automodel and 🤗 Diffusers
원문 보기 ↗