넷플릭스가 추천 시스템을 운영하는 두 가지 AI 아키텍처

요약

넷플릭스는 사용자 맞춤형 콘텐츠 추천을 위해 두 가지 핵심 AI 시스템을 활용한다. 첫 번째 시스템은 80억 개의 노드와 150억 개의 엣지로 구성된 그래프 기반 데이터베이스로, 사용자의 시청 기록을 100밀리초 이내에 조회하며 모든 데이터를 메모리에 상주시켜 처리 속도를 최적화한다. 두 번째 시스템은 사용자의 시청 이력을 문장 형태로 변환하고 언어 모델이 이를 읽어 점수를 매기는 방식으로 작동한다. 이 시스템은 생성 과정을 생략하고 읽기와 점수 매기기에만 집중하여 추론 비용을 낮췄으며, 넷플릭스 카탈로그 내의 콘텐츠로만 추천 범위를 제한해 정확성을 높였다. 또한 문맥 길이를 3분의 1로 줄여 서비스 비용을 동일하게 절감했다. 해당 모델은 4주간 10%의 트래픽을 대상으로 테스트한 결과, 기존 시스템 대비 40배 적은 라벨링 데이터를 사용하고도 1.6% 개선된 랭킹 성능을 기록했다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.