EmbeddingGemma 2 활용, 로컬 영상 프레임 검색 시스템 구현 가이드

요약

Google DeepMind가 공개한 EmbeddingGemma 2는 텍스트, 이미지, 비디오, 오디오를 공유 벡터 공간에 매핑하여 자연어로 비디오 프레임 검색을 가능하게 한다. 개발자들은 이를 활용해 로컬 환경에서 추론이 가능한 Rust 구현체를 구축했으며, Unsloth는 176MB 용량의 4-bit GGUF 텍스트 임베딩 체크포인트를 제공한다. Apple M3 Pro 환경에서 60초 분량의 영상을 테스트한 결과, 인덱싱에는 29초가 소요되었고 검색은 평균 25ms가 걸렸으며 저장된 프레임 벡터는 180KiB를 차지했다. 모든 프로세스는 외부 서버 없이 노트북 내에서 100% 로컬로 구동된다. 벡터 저장 비용을 최적화하기 위해 이진 양자화(binary quantization)를 적용하면 float32 대비 원시 저장 공간을 32배까지 줄일 수 있다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.