중요Reddit
Yandex Music, 15개 추천 모델을 트랜스포머 하나로 통합한 'Sona' 공개
후보생성·랭킹을 단일 생성모델로 대체. 추천 파이프라인 단순화 고민 중이라면 참고 가치.
요약
Yandex Music 연구진은 기존 15개 이상의 후보 생성기와 사전 순위 지정 및 순위 지정 모델을 단일 트랜스포머 모델로 대체한 추천 시스템 'Sona'를 개발했다. Sona는 복잡한 다단계 추천 파이프라인을 하나의 모델로 통합한 생성형 추천기로, 최근 A/B 테스트에서 성공적으로 검증을 마쳤다. 이 모델은 최대 8,192개의 이벤트를 입력받아 처리하며, 계산 비용을 절감하기 위해 히스토리 압축(History Compression) 기법을 사용한다. 히스토리 압축은 전체 이벤트를 과거 6,144개와 최신 2,048개로 나누어 블록 간 정보를 교환하는 방식으로 추론 비용을 절반가량 줄였다. 현재 Sona는 A/B 테스트를 통해 성능을 입증했으나 아직 전체 트래픽에는 적용되지 않은 상태다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 Sona: one transformer replaced our 15+ candidate generators, pre-ranker and ranker in an A/B test [R]
원문 보기 ↗