참고팁Reddit
순수 Adversarial Loss를 활용한 확산 모델 학습 실험
Diffusion Loss(MSE) 없이 GAN 방식의 Adversarial Loss만으로 Krea 2를 SFT한 실험 사례. 모델 경량화 및 학습 효율 연구 참고.
요약
Krea 2 모델을 GAN(Generative Adversarial Network) 방식으로 학습시키는 실험이 공개되었다. 이번 실험은 MSE와 같은 확산 손실(diffusion loss)을 배제하고 오직 판별자(discriminator)에 의한 순수 적대적 손실(pure adversarial loss)만을 사용하여 1,333 스텝 동안 학습을 진행했다. 학습 데이터셋으로는 pexels-woman-solo를 활용했으며, Krea 2 LoRA를 기반 모델로 사전 미세 조정(SFT) 과정을 거쳤다. 이후 500장의 가짜 이미지를 생성한 뒤, DINOv3(840M ViT) 모델을 활용하여 16x16 이미지 패치 단위의 진위 여부를 판별하는 PatchGAN 방식을 적용했다. 관련 코드와 학습 기록은 GitHub와 WandB를 통해 확인 가능하다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 Training flow matching with pure adversarial loss on pexels woman solo dataset.
원문 보기 ↗