참고팁Reddit
Krea2용 LoKr 학습 파라미터 및 실무 설정 가이드
LoRA 대비 LoKr 학습 시 효율적인 텍스트 인코더 및 트랜스포머 오프로드 설정과 학습 데이터 구성법.
요약
Reddit 사용자 /u/Beautiful_Egg6188이 Krea2 모델 환경에서 LoRA 대신 LoKr을 활용한 학습 실험 결과를 공유했다. 43장의 이미지를 qwen3 VL 4B instruct 모델로 캡셔닝하고, 학습률 0.0001과 Automagic v2 옵티마이저를 사용하여 6에포크 동안 학습을 진행했다. RTX 4070 super 환경에서 텍스트 인코더 100% 및 트랜스포머 75% 오프로딩 설정이 필요했으며, 학습 단계별로 LoKr 가중치를 저장했다. 테스트 결과 LoKr은 기존 LoRA 학습과 유사한 수준의 결과물을 보였으며, 2,000 스텝 전후로 유의미한 성능을 확인했다. 전반적으로 혁신적인 개선점은 적었으나 효율적인 학습이 가능함을 시사했다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 Trying out LoKr instead of LoRA on Krea2
원문 보기 ↗