사용자 행동 데이터 기반 LLM 학습 프레임워크 'Vela' 공개

요약

최근 LLM은 개인 비서나 추천 시스템처럼 사용자의 장기적인 행동 이력을 이해해야 하는 애플리케이션에 도입되고 있으나, 기존 모델들은 정적인 텍스트나 합성 데이터로 학습되어 사용자 행동의 변화를 포착하는 데 한계가 있습니다. 이를 해결하기 위해 사용자 행동 데이터를 학습 감독 신호로 활용하는 새로운 프레임워크 'Vela'가 제안되었습니다. Vela는 10만 명의 익명화된 사용자 행동 기록에서 91개의 실제 작업 템플릿을 추출해 7만 5천 개의 학습 작업을 생성했습니다. 이를 바탕으로 Qwen3.6-35B-A3B 모델을 파인튜닝한 결과, 사용자 관련 작업 성능이 최대 11.5점, 일반 벤치마크는 평균 4점 향상되었습니다. 특히 파인튜닝 후 강화학습을 적용했을 때 기본 모델 대비 최대 7.7점 높은 성과를 보여, 실제 사용자 행동 데이터가 LLM의 지능을 고도화할 수 있는 확장 가능한 학습 자원임이 입증되었습니다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.