DharmaOCR 모델의 훈련 파이프라인: 도메인 적응과 DPO의 결합

요약

Hugging Face는 3개월 전 브라질 포르투갈어 최적화 OCR 모델인 DharmaOCR을 오픈소스로 공개했다. 모델 학습은 브라질 포르투갈어의 어휘, 구문, 문서 구조에 특화된 지도 미세 조정(Supervised Fine-tuning)과 추론 성능 및 안정성을 높이는 DPO(Direct Preference Optimization) 2단계로 진행됐다. 지도 미세 조정을 통해 해당 언어에 대한 도메인 역량을 강화했고, DPO를 도입해 생성 모델의 고질적인 문제인 반복적이거나 일관성 없는 출력을 억제했다. 결과적으로 DPO 적용은 추론 시간과 비용을 절감하는 동시에 생산 환경에서의 신뢰성을 크게 향상시켰다. 이를 통해 DharmaOCR은 포르투갈어 벤치마크에서 가장 높은 추출 품질 점수와 가장 낮은 성능 저하율을 기록했다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.