임베딩 모델 교체 시 전체 데이터 재임베딩 생략하는 방법

요약

기존 임베딩 모델을 새로운 모델로 교체할 때 발생하는 막대한 백필링(Backfilling) 비용을 해결하는 새로운 마이그레이션 기법이 공개되었다. 10억 개의 벡터를 H100 기준 108일 동안 재임베딩해야 하는 기존 방식 대신, 기존 인덱스에서 K개의 문서를 추출해 새로운 모델로 리랭킹(Rerank)하는 방식을 제안한다. 테스트 결과, 충분한 K값이 확보되면 새로운 모델로 전체를 재임베딩했을 때와 동일한 수준의 검색 품질을 유지할 수 있다. 작성자는 최대 100만 개의 문서를 대상으로 63회의 마이그레이션 테스트를 수행했다. 특히 Qwen-4B에서 8B로 업그레이드할 때 K값을 50으로 설정한 경우 최적의 결과를 얻었다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.